- 126
- 0
- 约1.06万字
- 约 14页
- 2017-06-13 发布于北京
- 举报
学大数据,上小牛学堂
课程视频地址: HYPERLINK /free/java?pid= /free/java?pid=4
Sqoop中文手册
HYPERLINK http://www.zihou.me/html/2014/01/28/9114.html/sqoop-logo \t /myrainblues/article/details/_blank
1.概述
本文档主要对SQOOP的使用进行了说明,参考内容主要来自于Cloudera SQOOP的官方文档。为了用中文更清楚明白地描述各参数的使用含义,本文档几乎所有参数使用说明都经过了我的实际验证而得到。
2.codegen
将关系 HYPERLINK /base/mysql \o MySQL知识库 \t /myrainblues/article/details/_blank 数据库表映射为一个 HYPERLINK /base/javaee \o Java EE知识库 \t /myrainblues/article/details/_blank Java文件、 HYPERLINK /base/java \o Java 知识库 \t /myrainblues/article/details/_blank Java?class类、以及相关的jar包,作用主要是两方面:
1、? 将数据库表映射为一个Java文件,在该Java文件中对应有表的各个字段。
2、? 生成的Jar和class文件在metastore功能使用时会用到。
基础语句:
sqoop codegen –connect jdbc: HYPERLINK /base/mysql \o MySQL知识库 \t /myrainblues/article/details/_blank MySQL://localhost:3306/hive –username root –password 123456 –table TBLS2
?
参数说明–bindir dir指定生成的java文件、编译成的class文件及将生成文件打包为JAR的JAR包文件输出路径–class-name name设定生成的Java文件指定的名称–outdir dir生成的java文件存放路径–package-namename包名,如nic,则会生成cn和cnnic两级目录,生成的文件(如java文件)就存放在cnnic目录里–input-null-non-stringnull-str在生成的java文件中,可以将null字符串设为想要设定的值(比如空字符串’’)–input-null-stringnull-str同上,设定时,最好与上面的属性一起设置,且设置同样的值(比如空字符串等等)。–map-column-javaarg数据库字段在生成的java文件中会映射为各种属性,且默认的数据类型与数据库类型保持对应,比如数据库中某字段的类型为bigint,则在Java文件中的数据类型为long型,通过这个属性,可以改变数据库字段在java中映射的数据类型,格式如:–map-column-java DB_ID=String,id=Integer–null-non-stringnull-str在生成的java文件中,比如TBL_ID==null?”null”:””,通过这个属性设置可以将null字符串设置为其它值如ddd,TBL_ID==null?”ddd”:””–null-stringnull-str同上,使用的时候最好和上面的属性一起用,且设置为相同的值–table table-name对应关系数据库的表名,生成的java文件中的各属性与该表的各字段一一对应。?
3.create-hive-table
生成与关系数据库表的表结构对应的HIVE表
基础语句:
sqoop create-hive-table –connect jdbc:mysql://localhost:3306/hive -username root -password 123456 –table TBLS –hive-table h_tbls2
参数说明–hive-home dirHive的安装目录,可以通过该参数覆盖掉默认的hive目录–hive-overwrite覆盖掉在hive表中已经存在的数据–create-hive-table默认是false,如果目标表已经存在了,那么创建任务会失败–hive-table后面接要创建的hive表–table指定关系数据库表名
原创力文档

文档评论(0)