Kafka集群配置与存储优化:基于10亿数据与6万QPS实践.pdfVIP

  • 2
  • 0
  • 约小于1千字
  • 约 1页
  • 2026-06-30 发布于北京
  • 举报

Kafka集群配置与存储优化:基于10亿数据与6万QPS实践.pdf

10亿数据,6wQPS,12TB,6台机,2块1TB的机械硬盘

7天一共是12TB的数据量的角度而言,大概就是每台机搞2块机械硬盘,每块盘

就是1TB好像就够了

很多是从mysql同步的binlog数据过来的,那种数据很多是到不了1kb的,几十个字节,几

百个字节,也算是比较大了,用户行为日志,也不一定就可以到达1kb一条,一两百个字节,

具体看公司的数据,看一看,估算一下平均每条数据有多大

有一个经验值,1亿条用户行为日志,也就几个GB,几个TB,也就差不多了

未来给机器扩容硬盘也是可以的,继续加硬盘,或者把小容量的硬盘换成大容量的盘,运维

工程师会协助你来做的,偏硬件一些的,给服务器加硬盘,挂载,等等,诸如此类的一些事

很多公司,每天其实就几千万条数据到大数据平台里来的话,根本不算大数据,

几百MB,1GB以内,没多少数据量

文档评论(0)

1亿VIP精品文档

相关文档