厦门大学计算机科学系研究生课程1.docVIP

厦门大学计算机科学系研究生课程 《大数据技术原理与应用》 自学教程 Hadoop上的数据仓库Hive 初级实践教程 (版本号：2016年1月13日版本) 主讲教师：林子雨 厦门大学数据库实验室 二零一六年一月 （版权声明：厦门大学数据库实验室原创内容，请勿用于商业用途） 目录 目录 TOC \o 1-3 \h \z \u HYPERLINK \l _Toc440481815 一、 Hive简介 PAGEREF _Toc440481815 \h 1 HYPERLINK \l _Toc440481816 二、 Hive安装 PAGEREF _Toc440481816 \h 1 HYPERLINK \l _Toc440481817 三、 Hive配置 PAGEREF _Toc440481817 \h 3 HYPERLINK \l _Toc440481818 四、 Hive的常用HiveQL操作 PAGEREF _Toc440481818 \h 9 HYPERLINK \l _Toc440481819 五、 Hive简单编程实践 PAGEREF _Toc440481819 \h 16 HYPERLINK \l _Toc440481820 附录1:任课教师介绍 PAGEREF _Toc440481820 \h 18 HYPERLINK \l _Toc440481821 附录2：课程教材介绍 PAGEREF _Toc440481821 \h 18 厦门大学计算机科学系研究生课程《大数据技术原理与应用》自学教程 Hadoop上的数据仓库Hive初级实践教程 主讲教师：林子雨 /linziyu 第 PAGE 1页 《大数据技术原理与应用》 自学教程 Hadoop上的数据仓库Hive初级实践教程 主讲教师：林子雨 E-mail: HYPERLINK mailto:ziyulin@ ziyulin@ 个人主页： HYPERLINK /linziyu /linziyu 一、Hive简介 Hive是Facebook开发的构建于Hadoop集群之上的数据仓库应用，可以将结构化的数据文件映射为一张数据库表，并提供完整的SQL查询功能，可以将SQL语句转换为MapReduce任务进行运行。 Hive是一个可以提供有效的、合理的且直观的组织和使用数据的模型，即使对于经验丰富的Java开发工程师来说，将这些常见的数据运算对应到底层的MapReduce Java API也是令人敬畏的。Hive可以帮用户做这些工作，用户就可以集中精力关注查询本身了。Hive可以将大多数的查询转换为MapReduce任务。Hive最适合于数据仓库应用程序，使用该应用程序进行相关的静态数据分析，不需要快速响应给出结果，而且数据本身也不会频繁变化。 Hive不是一个完整的数据库。Hadoop以及HDFS的设计本身约束和局限性限制了Hive所能胜任的工作。最大的限制就是Hive不支持记录级别的更新、插入或者删除。用户可以通过查询生成新表或将查询结果导入到文件中去。因为，Hadoop是一个面向批处理的系统，而MapReduce启动任务启动过程需要消耗很长时间，所以Hive延时也比较长。Hive还不支持事务。因此，Hive不支持联机事务处理（OLTP），更接近于一个联机分析技术（OLAP）工具，但是，目前还没有满足“联机”部分。 Hive提供了一系列的工具，可以用来进行数据提取转化加载(ETL)，其中，ETL是一种可以存储、查询和分析存储在Hadoop中的大规模数据的机制。因此，Hive是最适合数据仓库应用程序的，它可以维护海量数据，而且可以对数据进行挖掘，然后形成意见和报告等。 因为大多数的数据仓库应用程序是基于SQL的关系数据库现实的，所以，Hive降低了将这些应用程序移植到Hadoop上的障碍。如果用户懂得SQL，那么学习使用Hive会很容易。因为Hive定义了简单的类SQL 查询语言——HiveQL，这里值得一提的是，与SQLServer、Oracle相比，HiveQL和MySQL提供的SQL语言更接近。同样的，相对于其他的Hadoop语言和工具来说，Hive也使得开发者将基于SQL的应用程序移植到Hadoop变得更加容易。 二、 Hive安装 因为Hive是构建在Hadoop之上的，所以在安装Hive前，我们需要安装Hadoop环境。Hadoop的安装可以参照厦门大学数据库实验室网站上的安装教程（HYPERLINK /blog/install-hadoop-simplify/ \l more-94/blog/install-hadoop-simplify/#more-94），但是，请注意，在按照该教程安装完Hadoop以后