hadoop常见笔试题答案.docVIP

Hadoop测试题 一．填空题，1分（41空），2分（42空）共125分 (每空1分) datanode 负责HDFS数据存储。 (每空1分)HDFS中的block默认保存 3 份。 (每空1分) ResourceManager 程序通常与 NameNode 在一个节点启动。 (每空1分)hadoop运行的模式有： 单机模式 、 伪分布模式 、 完全分布式 。 (每空1分)Hadoop集群搭建中常用的4个配置文件为： core-site.xml 、 hdfs-site.xml 、 mapred-site.xml 、 yarn-site.xml 。 (每空2分)HDFS将要存储的大文件进行 分割 ， 分割 后存放在既定的存储块 中，并通过预先设定的优化处理，模式对存储的数据进行预处理，从而解决了大文件储存与计算的需求。 (每空2分)一个HDFS集群包括两大部分，即 namenode 与 datanode 。一般来说，一个集群中会有一个 namenode 和多个 datanode 共同工作。 (每空2分) namenode 是集群的主服务器，主要是用于对HDFS中所有的文件及内容数据进行维护，并不断读取记录集群中 datanode 主机情况与工作状态，并通过读取与写入镜像日志文件的方式进行存储。 (每空2分) datanode 在HDFS集群中担任任务具体执行角色，是集群的工作节点。文件被分成若干个相同大小的数据块，分别存储在若干个 datanode 上， datanode 会定期向集群内 namenode 发送自己的运行状态与存储内容，并根据 namnode 发送的指令进行工作。 (每空2分) namenode 负责接受客户端发送过来的信息，然后将文件存储位置信息发送给 client ，由 client 直接与 datanode 进行联系，从而进行部分文件的运算与操作。 (每空1分) block 是HDFS的基本存储单元，默认大小是 128M 。 (每空1分)HDFS还可以对已经存储的Block进行多副本备份，将每个Block至少复制到 3 个相互独立的硬件上，这样可以快速恢复损坏的数据。 (每空2分)当客户端的读取操作发生错误的时候，客户端会向 namenode 报告错误，并请求 namenode 排除错误的 datanode 后，重新根据距离排序，从而获得一个新的 的读取路径。如果所有的 datanode 都报告读取失败，那么整个任务就读取失败。 (每空2分)对于写出操作过程中出现的问题， FSDataOutputStream 并不会立即关闭。客户端向Namenode报告错误信息，并直接向提供备份的 datanode 中写入数据。备份 datanode 被升级为首选 datanode ，并在其余2个 datanode 中备份复制数据。NameNode对错误的DataNode进行标记以便后续对其进行处理。 (每空1分)格式化HDFS系统的命令为： hdfs namenode –format 。 (每空1分)启动hdfs的shell脚本为： start-dfs.sh 。 (每空1分)启动yarn的shell脚本为： start-yarn.sh 。 (每空1分)停止hdfs的shell脚本为： stop-dfs.sh 。 (每空1分)hadoop创建多级目录（如：/a/b/c）的命令为： hadoop fs –mkdir –p /a/b/c 。 (每空1分)hadoop显示根目录命令为： hadoop fs –lsr 。 (每空1分)hadoop包含的四大模块分别是： Hadoop common 、 HDFS 、 Mapreduce 、 yarn 。 (每空1分)namenode默认的WebUI访问端口号为： 50070 。 (每空1分)ResourceManager默认的WebUI访问端口号为： 8088 。 (每空1分)historyServer默认的WebUI访问端口号为： 19888 。 (每空1分)修改blocksize大小的属性是： dfs.blocksize ，在 hdfs-site.xml 配置文件里。 (每空1分)HDFS中namenode的RPC端口号为： 8021 ，其作用是： 接收Client连接的RPC端口，用于获取文件系统metadata信息 。 (每空2分)Mapper类中有 4 个函数。 (每空1分)默认N