SparkSQL小文件合并优化方案与实现.pdfVIP

  • 0
  • 0
  • 约2.38千字
  • 约 12页
  • 2026-09-08 发布于北京
  • 举报

1.思考题:如何避免小文件问题

•如何避免小文件问题?给出2~3种解决方案

1.思考题:如何避免小文件问题

•如何避免小文件问题?给出2~3种解决方案

2.实现Compact

table

命令

•要求:

添加compact

table命令,用于合并小文件。例如表test1总共有50000个文件,每个1MB,

通过该命令可合成为500个文件,每个约100MB。

•语法:

_

压缩表

table识别

[分区规范][合并为

fileNum

个文件];

•说明:

1.如果添加partitionSpec,则仅

文档评论(0)

1亿VIP精品文档

相关文档