hadoop培训之HDFS常用文件操作命令.doc

北京尚学堂提供 1.ls hadoop fs -ls /?列出hdfs文件系统根目录下的目录和文件 hadoop fs -ls -R /?列出hdfs文件系统所有的目录和文件 2.put hadoop fs -put local file hdfs file ?hdfs file的父目录一定要存在，否则命令不会执行 hadoop fs -put local file or dir … hdfs dir ?hdfs dir 一定要存在，否则命令不会执行 hadoop fs -put - hdsf file?从键盘读取输入到hdfs file中，按Ctrl+D结束输入，hdfs file不能存在，否则命令不会执行 2.1.moveFromLocal hadoop fs -moveFromLocal local src … hdfs dst ?与put相类似，命令执行后源文件 local src 被删除，也可以从从键盘读取输入到hdfs file中 2.2.copyFromLocal hadoop fs -copyFromLocal local src … hdfs dst ?与put相类似，也可以从从键盘读取输入到hdfs file中 3.get hadoop fs -get hdfs file local file or dir?local file不能和 hdfs file名字不能相同，否则会提示文件已存在，没有重名的文件会复制到本地 hadoop fs -get hdfs file or dir … local dir ?拷贝多个文件或目录到本地时，本地要为文件夹路径?注意：如果用户不是root， local 路径要为用户文件夹下的路径，否则会出现权限问题， 3.1.moveToLocal 当前版本中还未实现此命令 3.2.copyToLocal hadoop fs -copyToLocal local src … hdfs dst ?与get相类似 4.rm hadoop fs -rm hdfs file …?hadoop fs -rm -r hdfs dir…?每次可以删除多个文件或目录 5.mkdir hadoop fs -mkdir hdfs path?只能一级一级的建目录，父目录不存在的话使用这个命令会报错 hadoop fs -mkdir -p hdfs path?所创建的目录如果父目录不存在就创建该父目录 6.getmerge hadoop fs -getmerge hdfs dir local file ?将hdfs指定目录下所有文件排序后合并到local指定的文件中，文件不存在时会自动创建，文件存在时会覆盖里面的内容 hadoop fs -getmerge -nl hdfs dir local file ?加上nl后，合并到local file中的hdfs文件之间会空出一行 7.cp hadoop fs -cp hdfs file hdfs file ?目标文件不能存在，否则命令不能执行，相当于给文件重命名并保存，源文件还存在 hadoop fs -cp hdfs file or dir … hdfs dir ?目标文件夹要存在，否则命令不能执行 8.mv hadoop fs -mv hdfs file hdfs file ?目标文件不能存在，否则命令不能执行，相当于给文件重命名并保存，源文件不存在 hadoop fs -mv hdfs file or dir … hdfs dir ?源路径有多个时，目标路径必须为目录，且必须存在。?注意：跨文件系统的移动（local到hdfs或者反过来）都是不允许的 9.count hadoop fs -count hdfs path ?统计hdfs对应路径下的目录个数，文件个数，文件总计大小?显示为目录个数，文件个数，文件总计大小，输入路径 10.du hadoop fs -du hdsf path?显示hdfs对应路径下每个文件夹和文件的大小 hadoop fs -du -s hdsf path?显示hdfs对应路径下所有文件和的大小 hadoop fs -du - h hdsf path?显示hdfs对应路径下每个文件夹和文件的大小,文件的大小用方便阅读的形式表示，例如用64M代11.text hadoop fs -text hdsf file?将文本文件或某些格式的非文本文件通过文本格式输出 12.setrep hadoop fs -setrep -R 3 hdfs path ?改变一个文件在h