扫二维码与项目经理沟通
我们在微信上24小时期待你的声音
解答本文疑问/技术咨询/运营咨询/技术建议/互联网交流
这篇文章给大家分享的是有关hive中python udf的示例分析的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。
德阳ssl适用于网站、小程序/APP、API接口等需要进行数据传输应用场景,ssl证书未来市场广阔!成为创新互联建站的ssl证书销售渠道,可以享受市场价格4-6折优惠!如果有意向欢迎电话联系或者加微信:028-86922220(备注:SSL证书合作)期待与您的合作!
udfdata.txt:
aa pingpong,swim,running
create table udfdata(name String,hobby String) row format delimited fields terminated by '\t' ; LOAD DATA LOCAL INPATH '/Users/lifei/hivedata/udfdata.txt' OVERWRITE INTO TABLE udfdata; add file /Users/lifei/hivedata/parsehobby.py; select transform(name,hobby) using 'python parsehobby.py' as (name,hobby) from udfdata aa pingpong aa swim aa running add file /Users/lifei/hivedata/splithobby.py; select transform(hobby) using 'python splithobby.py' as (name,hobby,test) from udfdata; pingpong swim running
#parsehobby.py import sys for line in sys.stdin: detail = line.strip().split('\t') if (len(detail) < 2): continue name = detail[0] hobbis = detail[1] hobbyArray = hobbis.split(',') for hobby in hobbyArray: print "%s\t%s" %(name,hobby) #splithobby.py import sys for line in sys.stdin: detail = line.strip().split(',') print "%s\t%s\t%s" %(detail[0],detail[1],detail[2])
ps: explode和collect_set
中文或者str时报错:'ascii' codec can't encode characters in position 61-62
reload(sys)
sys.setdefaultencoding('utf8')
感谢各位的阅读!关于“hive中python udf的示例分析”这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,让大家可以学到更多知识,如果觉得文章不错,可以把它分享出去让更多的人看到吧!
我们在微信上24小时期待你的声音
解答本文疑问/技术咨询/运营咨询/技术建议/互联网交流