Apache Spark

来自开放百科 - 灰狐
(版本间的差异)
跳转到: 导航, 搜索
(Spark on HBase)
(项目)
第50行: 第50行:
  
 
==项目==
 
==项目==
[https://cwiki.apache.org/confluence/display/SPARK/Supplemental+Spark+Projects Spark的相关项目和生态系统: Supplemental Spark Projects]
+
[https://github.com/awesome-spark/awesome-spark Awesome Spark] [[文件:awesome.png]]
 +
*[https://cwiki.apache.org/confluence/display/SPARK/Supplemental+Spark+Projects Spark的相关项目和生态系统: Supplemental Spark Projects]
 
*[https://github.com/spark-jobserver/spark-jobserver spark-jobserver]
 
*[https://github.com/spark-jobserver/spark-jobserver spark-jobserver]
 
*[https://github.com/amplab-extras/SparkR-pkg SparkR]
 
*[https://github.com/amplab-extras/SparkR-pkg SparkR]

2018年9月17日 (一) 00:18的版本

Apache Spark:新一代大数据解决方案

Spark 是用Scala语言编写的一套分布式内存计算系统,它的核心抽象模型是 RDD (Resilient Distributed Dataset,弹性分布式数据集),围绕 RDD 构建了一系列分布式 API,可以直接对数据集进行分布式处理。

相对于 MapReduce 上的批量计算、迭代计算,以及基于 Apache Hive 的 SQL 查询,Spark 可以带来一到两个数量级的性能提升。

Spark在广告领域有很多的成功应用。

目录

版本

Apache Hive

Hive on Spark

Spark on HBase

Spark on YARN

通过Spark on YARN的方式与Apache Hadoop方便地共享集群的存储功能和计算资源。

Cassandra

elasticsearch

REST API

Spark 1.4引入REST API

http://localhost:4040/api/v1/applications

机器学习

项目

Awesome Spark Awesome.png

服务商

  • Spark背后的商业公司:Databricks,同时提供Spark服务提供商Certified Spark Distribution官方认证。
  • Stratio Platform: The first "pure Spark" platform with 50% fewer components and operational complexity.
  • IBM的思路是将Spark视为数据分析的操作系统。

用户

课程

文档

图集

链接

分享您的观点
个人工具
名字空间

变换
操作
导航
工具箱