我有一组 csv 文件,我想将它们合并到一个 csv 文件中。 ,需要一些时间,但我在目标路径中找不到该文件
hdfs dfs -getmerge /DATA /data1/result.csv
任何帮助
谢谢
getmerge
Usage: hadoop fs -getmerge [-nl] <src> <localdst>
将源目录和目标文件作为输入,并将 src 中的文件连接到目标本地文件中。可选-nl
可以设置为在每个文件末尾添加换行符 (LF)。--skip-empty-file
可用于在空文件的情况下避免不需要的换行符。
例子:
hadoop fs -getmerge -nl /src /opt/output.txt
hadoop fs -getmerge -nl /src/file1.txt /src/file2.txt /output.txt
退出代码:
成功时返回 0,错误时返回非零。
如果有些对你不起作用
您可以尝试这样的 cat 命令:(如果您的数据不够大)
hadoop dfs -cat /DATA/* > /<local_fs_dir>/result.csv
hadoop dfs -copyFromLocal /<local_fs_dir>/result.csv /data1/result.csv
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)