sqoop 1.x 导入hive 整合

1、前面说过一般导入到hive中表,我们一般都是提前创建好的。

改造一: 通过sqoop  import 从mysql 导入表时,会生成默认 表名的java 文件,在执行的sqoop的命令。我们需要把生成的java文件统一到一个文件中去。

[root@hadoop01 sqoop-java]# pwd
/data/bigData/tmp/sqoop-java

我们需要把处理的java文件统一放到这个文件中。再导入后面添加这个参数

--outdir '/data/bigData/tmp/sqoop-java'
sqoop import -D mapred.job.queue.name=queueA \
--connect jdbc:mysql://hadoop03.fandong.com:3306/portrait --table t_user_order_bill \
--hive-table portrait.t_user_order_bill --hive-overwrite  --hive-import \
--outdir '/data/bigData/tmp/sqoop-java/' \
--null-string '\\N' --null-non-string '\\N' \
-username nodejs1 -password nodejs1

设置队列名称

生成的java文件都放到了统一的目录下。

每次都写一大堆的文件比较繁琐,可以使用脚本进行导入。----

发布了61 篇原创文章 · 获赞 1 · 访问量 642

猜你喜欢

转载自blog.csdn.net/u012842247/article/details/103835439
今日推荐