3.3.1Sqoop服务框架与迁移工具.docVIP

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多

PAGE

PAGE4

《大数据应用技术基础》教学设计

课题

Sqoop服务框架与迁移工具

课型

理论

班级

教师

课时

2

教学分析

教材分析

教师备课时填写

学情分析

教师备课时填写

教学目标

知识

1.能描述Sqoop服务架构组成;

2.能说出Sqoop服务工具及作用

技能

1.能判别Sqoop服务的应用场景;

2.能为应用选择恰当的Sqoop数据迁移工具。

素养

1.培养关注行业前沿技术发展的意识;

2.培养大数据应用意识。

教学重点

Sqoop服务架构组成

教学难点

ZooKeeper的数据型及作迁移工具及作用

教学方法

讲授法、讨论法、演示法

教学环境

软件环境:CentOS7操作系统

硬件环境:多媒体教室或软件实训室,计算机

教学资源:PPT、微课视频

教学反思

教师课后填写

教学过程

教学环节

教师活动

学生活动

新课导入

(5分钟)

1.结构化SQL数据库存储有巨量的业务数据,由于SQL数据本身性能瓶颈不利于进行数据分析,可有什么好的解决方法?

2.数据分析生成的高价值数据体量?变得很小还适宜存储到大数据平台吗?

讨论

交流

目标展示

(5分钟)

PPT展示本课题要完成的目标并适当解说

观看

了解

新课教学

(60分钟)

活动一认识Sqoop服务架构组成(20分钟)

1.Sqoop服务架构

观察框图示意:描述各组件的作用。

数据从SQL数据库迁移到Hadoop,经过分析处理后存入Hive表中的数据,又通过Sqoop然后导出到SQL数据库以便使用。

问:Task转换器的作用是什么?

数据可以哪些平台之间转换?

数据导入和数据导出分别指的是什么之间的数据迁移?

2.数据迁移过程

(1)客户使用Sqoop的工具发出的命令

(2)Task转换器翻译成相应的MapReduce程序

(3)在YARN上执行相应MapReduce任务实现在SQL数据库与Hadoop系统之间传输数据。

观看

讨论

笔记

活动二Sqoop服务数据迁移工具(30分钟)

1.数据导入

数据导入是指从SQL数据表中把数据迁移到HDFS系统的操作。

sqoopimport导入参数

(1)指定目标数据文件格式

--as-textfile:文本文件(默认)

--as-avrodatafile:Avro数据文件

--as-sequencefile:sequence文件

(2)指定SQL数据表

--table表名:数据的源表名

(3)指定查询语句

--querySQL命令:SQL查询语句

(3)指定查询条件

--where条件表达式:查询条件

一个SQL数据表对应多个HDFS数据文件。

2.数据导出

数据导出是指将数据从HDFS系统迁移到SQL数据表的过程。

sqoopexport导入参数

(1)指定导出文件的HDFS目录路径

--export-dir路径:HDFS源路径

(2)设定目的表名

--table表名:表名

(3)设置并行执行的MAP任务数

--num-mappersn:Map任务数

(4)设置数据插入时的更新方式

--update-mode方式:当有不匹配行时,updateonly(仅更新),allowinsert(允许插入)

观看

讨论分析

笔记

讨论作答

讨论

展示评价

(5分钟)

1.Sqoop服务的核心是。

2.Sqoop数据导入过程是。

3.Sqoop数据导出过程是。

完成练习

课堂小结

(5分钟)

1.Sqoop服务架构组成;

2.Sqoop服务工具及作用;

3.Sqoop服务数据导入过程;

4.Sqoop服务数据导出过程。

个别与集体结合回顾学习的内容

课后作业

教师备课时填写或课后自行针对性命题

知识技能拓展

调研说明Hadoop技术在大数据领域中的应用情况。

文档评论(0)

zs521 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档