hive配置-厦门大学数据库室.docVIP

厦门大学计算机科学系研究生课程 《》 主讲教师：林子雨 二零一年月 目录 一、 Hive简介 1 二、 Hive安装 1 三、 Hive配置 3 四、 Hive的常用HiveQL操作 9 五、 Hive简单编程实践 16 附录1:任课教师介绍 18 附录2：课程教材介绍 18 《》 主讲教师：林子雨 E-mail: ziyulin@ 个人主页：/linziyu Hive简介 Hive是一个可以提供有效的、合理的且直观的组织和使用数据的模型，即使对于经验丰富的Java开发工程师来说，将这些常见的数据运算对应到底层的MapReduce Java API也是令人敬畏的。Hive可以帮用户做这些工作，用户就可以集中精力关注查询本身了。Hive可以将大多数的查询转换为MapReduce任务。Hive最适合于数据仓库应用程序，使用该应用程序进行相关的静态数据分析，不需要快速响应给出结果，而且数据本身也不会频繁变化。 Hive不是一个完整的数据库。Hadoop以及HDFS的设计本身约束和局限性限制了Hive所能胜任的工作。最大的限制就是Hive不支持记录级别的更新、插入或者删除。用户可以通过查询生成新表或将查询结果导入到文件中去。因为，Hadoop是一个面向批处理的系统，而MapReduce启动任务启动过程需要消耗很长时间，所以Hive延时也比较长。Hive还不支持事务。因此，Hive不支持联机事务处理（OLTP），更接近于一个联机分析技术（OLAP）工具，但是，目前还没有满足“联机”部分。 Hive提供了一系列的工具，可以用来进行数据提取转化加载(ETL)，其中，ETL是一种可以存储、查询和分析存储在Hadoop中的大规模数据的机制。因此，Hive是最适合数据仓库应用程序的，它可以维护海量数据，而且可以对数据进行挖掘，然后形成意见和报告等。 因为大多数的数据仓库应用程序是基于SQL的关系数据库现实的，所以，Hive降低了将这些应用程序移植到Hadoop上的障碍。如果用户懂得SQL，那么学习使用Hive会很容易。因为Hive定义了简单的类SQL 查询语言——HiveQL，这里值得一提的是，与SQLServer、Oracle相比，HiveQL和MySQL提供的SQL语言更接近。同样的，相对于其他的Hadoop语言和工具来说，Hive也使得开发者将基于SQL的应用程序移植到Hadoop变得更加容易。 二、 Hive安装 因为Hive是构建在Hadoop之上的，所以在安装Hive前，我们需要安装Hadoop环境。Hadoop的安装可以参照厦门大学数据库实验室网站上的安装教程（/blog/install-hadoop-simplify/#more-94）的配置过程，稍后我们在安装完Hive后一起进行 下面开始安装Hive。 安装Hive的过程和安装Hadoop很类似，首先我们先下载一个Hive软件压缩包（下载地址：/dyn/closer.cgi/hive/），然后进行解压缩，具体如下： $cd ~/下载 $sudo tar -zxvf ./apache-hive-1.2.1-bin.tar.gz -C /usr/local # 解压到/usr/local中 $cd /usr/local/ $sudo mv ./apache-hive-1.2.1-bin/ ./hive # 将文件夹名改为hive $sudo chown -R hadoop:hadoop ./hive # 修改文件权限 $sudo mkdir -p /usr/local/hive/warehouse # 创建元数据存储文件夹 $sudo chmod a+rwx /usr/local/hive/warehouse # 修改文件权限 为了方便使用，我们把hive命令加入到环境变量中去 $vim ~/.bashrc # 设置环境变量 在文件最前面添加如下几行： export HIVE_HOME=/usr/local/hive export PATH=$PATH:$HIVE_HOME/bin $source ~/.bashrc #使配置立即生效 然后运行hive命令启动Hive $hive #启动Hive 注意： 若