大数据工程师-数据处理与分析-Apache Spark_Spark核心组件解析.docxVIP

  • 12
  • 0
  • 约2.44万字
  • 约 29页
  • 2024-10-19 发布于辽宁
  • 举报

大数据工程师-数据处理与分析-Apache Spark_Spark核心组件解析.docx

PAGE1

PAGE1

ApacheSpark简介

1Spark的历史与发展

ApacheSpark是一个开源的分布式计算系统,由加州大学伯克利分校的AMPLab在2009年开发。Spark的设计初衷是为了克服HadoopMapReduce在迭代计算和数据处理速度上的局限性。MapReduce虽然在处理大规模数据集时表现出色,但其设计并不适合需要多次访问同一数据集的迭代算法,这在机器学习和图形处理中非常常见。Spark通过在内存中缓存数据,显著提高了迭代计算的效率,从而在大数据处理领域迅速崭露头角。

2010年,Spark成为了Apache

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档