扫二维码与项目经理沟通
我们在微信上24小时期待你的声音
解答本文疑问/技术咨询/运营咨询/技术建议/互联网交流
这期内容当中小编将会给大家带来有关Pyspark如何读取parquet数据，文章内容丰富且以专业的角度为大家分析和叙述，阅读完这篇文章希望大家可以有所收获。
目前创新互联已为近千家的企业提供了网站建设、域名、网络空间、网站改版维护、企业网站设计、阳明网站维护等服务，公司将坚持客户导向、应用为本的策略，正道将秉承"和谐、参与、激情"的文化，与客户和合作伙伴齐心协力一起成长，共同发展。可以跳过不符合条件的数据，只读取需要的数据，降低IO数据量；压缩编码可以降低磁盘存储空间，使用更高效的压缩编码节约存储空间；只读取需要的列，支持向量运算，能够获取更好的扫描性能。parquet数据：列式存储结构，由Twitter和Cloudera合作开发，相比于行式存储，其特点是：
那么我们怎么在pyspark中读取和使用parquet数据呢？我以local模式， linux下的pycharm执行作说明。
首先，导入库文件和配置环境：
import os
from pyspark import SparkContext, SparkConf
from pyspark.sql.session import SparkSession
os.environ["PYSPARK_PYTHON"]="/usr/bin/python3" #多个python版本时需要指定
conf = SparkConf().setAppName('test_parquet')
sc = SparkContext('local', 'test', conf=conf)
spark = SparkSession(sc)然后，使用spark进行读取，得到DataFrame格式的数据：host:port 属于主机和端口号
parquetFile = r"hdfs://host:port/Felix_test/test_data.parquet" df = spark.read.parquet(parquetFile)
而，DataFrame格式数据有一些方法可以使用，例如：
1.df.first() ：显示第一条数据，Row格式
print(df.first())
2.df.columns：列名
3.df.count()：数据量，数据条数
4.df.toPandas()：从spark的DataFrame格式数据转到Pandas数据结构
5.df.show()：直接显示表数据；其中df.show(n) 表示只显示前n行信息
6.type(df)：显数据示格式
上述就是小编为大家分享的Pyspark如何读取parquet数据了，如果刚好有类似的疑惑，不妨参照上述分析进行理解。如果想知道更多相关知识，欢迎关注创新互联-成都网站建设公司行业资讯频道。
我们在微信上24小时期待你的声音
解答本文疑问/技术咨询/运营咨询/技术建议/互联网交流
微信二维码
移动版官网