这篇文章主要介绍了基于CDP7.1.3的Spark3.0有什么特性，具有一定借鉴价值，感兴趣的朋友可以参考下，希望大家阅读完这篇文章之后大有收获，下面让小编带着大家一起了解一下。

公司主营业务：成都网站建设、成都网站设计、移动网站开发等业务。帮助企业客户真正实现互联网宣传，提高企业的竞争能力。创新互联是一支青春激扬、勤奋敬业、活力青春激扬、勤奋敬业、活力澎湃、和谐高效的团队。公司秉承以“开放、自由、严谨、自律”为核心的企业文化，感谢他们对我们的高要求，感谢他们从不同领域给我们带来的挑战，让我们激情的团队有机会用头脑与智慧不断的给客户带来惊喜。创新互联推出定南免费做网站回馈大家。

Cloudera正式宣布发布CDS3，基于Apache Spark 3.0.1，参考：

https://spark.apache.org/news/spark-3-0-1-released.html

这是一个正式版本，可以生产系统中使用。而且这个版本受Cloudera Support支持。

以下是Spark3的关键新特性：

1.Spark3的TPC-DS性能进一步提升；

2.语言支持

  a)Scala version is upgraded to 2.12

  b)JDK11 is fully supported.

 c)Python3.6+ is supported. Python 2 and Python 3 prior to version 3.6 are deprecated

3.Adaptive execution of Spark SQL

  a)对于AQE而言，最重要的问题就是什么时候去重新计算优化执行计划。Spark任务的算子如果管道排列，依次并行执行。然而，shuffle或者broadcast exchange会打断算子的排列执行，我们称其为物化点（Materialization Points），并且用"Query Stages"来代表那些被物化点所分割的小片段。每个Query Stage会产出中间结果，当且仅当该stage及其并行的所有stage都执行完成后，下游的Query Stage才能被执行。所以当上游部分stage执行完成，partitions的统计数据也获取到了，并且下游还未开始执行，这就给AQE提供了reoptimization的机会。在查询开始时，生成完了执行计划，AQE框架首先会找到并执行那些不存在上游的stages。一旦这些stage有一个或多个完成，AQE框架就会将其在physical plan中标记为完成，并根据已完成的stages提供的执行数据来更新整个logical plan。基于这些新产出的统计数据，AQE框架会执行optimizer，根据一系列的优化规则来进行优化；AQE框架还会执行生成普通physical plan的optimizer以及自适应执行专属的优化规则，例如分区合并、数据倾斜处理等。于是，我们就获得了最新优化过的执行计划和一些已经执行完成的stages，至此为一次循环。接着我们只需要继续重复上面的步骤，直到整个query都跑完。

4.Dynamic Partition Pruning (DPP)

  a)Spark 3.0引入了动态分区裁剪功能，这是SQL分析工作负载的一项重大性能改进。DPP背后的想法是将维度表上的筛选器集直接应用到事实表上，以便跳过扫描不需要的分区。DPP的优化是在逻辑计划优化和物理计划上实现的。它大大增强了许多TPC-DS查询的速度，并且可以很好的适应星型模型，而无需对表进行反范式化(Denormalization)。

5.Binary files data source

  a)Spark 3.0支持二进制文件数据源。它可以读取二进制文件，并将每个文件转换为包含文件原始内容和元数据的一行。

6.DataSource V2 Improvements

  a)Pluggable catalog integration

  b)改进谓词下推功能，可通过减少数据加载来加快查询速度

7.YARN Features

  a)Spark 3.0可以自动在YARN集群上发现GPU，并将任务调度到指定的GPU节点。

8.Kafka connector delegation token (0.10+)

  a)对应用只需要配置Spark的参数就可以完成认证登录，而不是非需要使用JAAS配置登录。

该试验版本不支持以下组件：

• Hive Warehouse Connector

• Kudu

• HBase Connector

• Oozie

• Livy

• Zeppelin

参考文档：

https://docs.cloudera.com/cdp-private-cloud-base/7.1.3/cds-3/topics/spark-spark-3-overview.html

下载地址：

http://archive.cloudera.com/p/spark3/3.0.7110.0/csd/SPARK3_ON_YARN-3.0.1.3.0.7110.0-81.jarhttps://archive.cloudera.com/p/spark3/3.0.7110.0/csd/LIVY_FOR_SPARK3-0.6.0.3.0.7110.0-81.jarhttp://archive.cloudera.com/p/spark3/3.0.7110.0/parcels/

感谢你能够认真阅读完这篇文章，希望小编分享的“基于CDP7.1.3的Spark3.0有什么特性”这篇文章对大家有帮助，同时也希望大家多多支持创新互联，关注创新互联行业资讯频道，更多相关知识等着你来学习!

当前名称：基于CDP7.1.3的Spark3.0有什么特性
分享URL：http://kswjz.com/article/isgigg.html