hive(3)——在hive中使用自己写的函数(python实现)

如果我们想在hive中添加自己写的函数,可用如下方法:
前提:已经开启hdfs,yarn服务,并且关闭safe模式,打开mysql
ps:udf是mapper类型的,进来一个数据,出去一个数据
(1)用python写好想要实现的函数
这里我的测试表是这样一份表,我想让此表的state字段都变成大写,所以我编辑了如下python脚本:
在这里插入图片描述
在这里插入图片描述
编辑的脚本py_udf(udf前面已经解释)如下:
在这里插入图片描述

import sys
for line in sys.stdin:
        line = line.strip()
        team,state,rank = line.split()
        state = state.upper()
        print( ' '.join([team,state,str(rank)]))

(2)加入路径(至关重要的一步)
这份文件在本地路径下
在这里插入图片描述
(3)实现语句TRANSFORM
在这里插入图片描述
可见,california和colorado已经大写,成功输出,这里要使用TRANSFORM 前面的‘()’的参数是你表中的字段,也就是desc查出来的字段,而后面的‘()’的参数是你pyhon脚本里输出的参数。
可以在yarn可视化界面查看该任务:
在这里插入图片描述

猜你喜欢

转载自blog.csdn.net/weixin_48445640/article/details/109017316