云计算架构与大数据分析（Hadoop开发应用）培训.docVIP

关于举办大数据分析（Hadoop）与云计算实践培训班的通知 培训时间：2014年3月12日至3月17日(3月11日报到)杭州 2014年5月21日至5月26日(5月20日报到)成都 一、课程目标 本课程以案例驱动，采用一个完整地案例贯穿整个课程，让学员体验架构。在课程中学员将被赋予角色，通过，使学员感悟架构设计的。 全程项目实战训练； 彻底掌握使用Hadoop进行MapReduce程序开发； 熟悉分布式计算领域的常用算法； 掌握Hive、HBase使用与优化技巧。 了解云计算的发展历史掌握云计算的实践应用学习云计算的核心技术通晓云计算的商业价值。 钱兴会 大数据专家。在电信、电力、金融行业从事Java开发和架构设计的工作；资深云计算研发工程师。作为项目的主要成员和负责人参与并领导完成了多个大型复杂项目，并成功应用于行业解决方案，如海量数据匹配系统、电力行业实时数据采集分析系统等。设计并实现了实时索引系统-云搜，成功应用与某国企知识库系统。并可应用与互联网行业的搜索等应用。完成多个云计算解决方案的架构，涉及到金融韩行业海量数据分析与数据处理系统、海量日志分析系统、电力用电信息统计系统等，获得业界认可。 朱永春 十余年IT具有丰富的教学经验，对IT职业培训有深刻的理解曾参与设计，在系统领域有深入的研究授课理论与实践并重，深入浅出，深受广大学员好评。 软件工程师、数据库开发人员、网络后台开发人员、运维人员；地方政府云计算物联网产业负责人各地云计算中心负责人云计算物联网产业规划负责人云计算产业投资团队云计算应用开发商云计算硬件设备商云服务运营服务提供商高校、科研院所云计算项目负责人 四、课程大纲 （第一专题：大数据分析与Hadoop开发） 日程 模块单元 模块单元 第 一 天 第1个主题： 1.传统大规模系统存在的问题 2.对一种新的解决方案的需求 3.Hadoop应用案例解析 4.Hadoop 版本介绍 5.Hadoop与传统分布式环境的区别 第2个主题：Hadoop安装和部署准备 Hadoop系统模块组件概述 Hadoop试验集群的部署结构 Hadoop 安装依赖关系 Hadoop 生产环境的部署结构 第3个主题：Hadoop集群安装和部署 第4个主题：Hadoop组件详解 Hadoop HDFS 基本结构 Hadoop HDFS 副本存放策略 Hadoop NameNode 详解 Hadoop SecondaryNameNode 详解 Hadoop DataNode 详解 Hadoop JobTracker 详解 5.Mapper 6.Reducer 7.API 使用Eclipse进行快速开发 8.新MapReduce API 第4个主题：Hadoop 核心代码剖析 1. Hadoop Mapper 类核心代码剖析 2. Hadoop Reducer 类核心代码剖析 第5个主题：HDFS分布式文件系统编程 1. Hadoop HDFS 剖析 2. Hadoop NameNode 剖析 3. Hadoop DataNode 剖析 4. hadoop I/O 操作 5. 使用Hadoop HDFS API对HDFS编程 第5个主题 第 二 天 第1个主题： 1. Hadoop JobTracker 剖析 2.Hadoop TaskTracker 剖析 3.Hadoop 任务提交流程剖析 第2个主题： Hadoop MapReduce Streaming编程 1. Hadoop Streaming 和 Java MapReduce Api 差异 2. 使用 MapReduce 实现数据库功能 第3个主题：MapReduce分布式程序 1. MapReduce流程 2.剖析一个MapReduce程序 3.基本MapReduceAPI 概念 4.驱动代码 第4个主题： 1.ToolRunner介绍 2.使用MRUnit进行测试 3.利用Combiners来减少中间数据 4.使用Configure和Close方法来进行Map/Reduce设置和关闭 5.编写Partitioner来优化负载平衡 6.直接访问Hadoop分布式文件系统（HDFS） 7.使用分布式缓存（Distributed Cache） 第5个主题：MapReduce的优化 1. map优化 2. reduce优化 3. 小文件优化 第6个主题：MapReduce的任务调度 1. Queue调度的使用 2. 公平调度的使用 3. 能力调度的使用 第7个主题Hadoop 生态系统介绍 分布式管理组件-Zookeeper 分布式数据仓库-Hive 分布式数据库-HBase 数据导入导出-Sqoop 工作流管理- O