- 0
- 0
- 约6.48千字
- 约 7页
- 2026-04-22 发布于山东
- 举报
3333--横横看看成成岭岭侧侧成成峰峰::再再战战SSttrreeaammiinnggWWoorrddCCoouunntt
你好,我是蔡楠。
今天我要与你分享的主题是“横看成岭侧成峰:再战Streaming WordCount”。
在上一讲中,我们学习了Beam窗口(Window)的概念。当时,我们提到窗口技术的产生是因为我们想要
根据时间戳去分组处理一个PCollection中的素。
我们也提到了在“统计莎士比亚文集词频”这个例子中,如果莎士比亚穿越到了现代,成了一名极客时间的
专栏作家,我们就可能需要根据他文章的写作时间来统计词频了。
举个具体的例子的话,就是我们能不能灵活地得到莎士比亚在2017年9月使用的高频词汇?或者是他在2018
年第7个周五偏爱使用的高频词汇呢?
时效性是数据处理很重要的一部分,类似上面这样的问题还有很多。
比如,能不能根据实时交通数据,得到最近24小时之内拥堵的道路?能不能根据所有微信分享文章的点击
数据,得到过去一周最热门的文章?这些问题都是可以用窗口技术来解决。
所以今天这一讲,我们就来看看怎样在WordCount这个例子中使用窗口技术。我会介绍怎样在Beam中实现
以下六个问题:
1. 怎样区分有界数据还是无界数据?
2. 怎样读取无边界数据?
3. 怎样给PCollection数据添加时间戳?
4
您可能关注的文档
最近下载
- 地球的形状和内部结构.ppt VIP
- 企业生态环境合规之3——排污许可管理合规清单(雷泽佳编制-2026A0).pdf VIP
- 新22S1 卫生设备工程.docx VIP
- 乳制品配送服务服务承诺及售后服务.docx VIP
- 肠癌患者的护理.ppt VIP
- 汽车标准规范 附件53《焊装柔性定位系统安装调试标准》.pdf VIP
- 小学数学求平行四边形的周长专项练习题(每日一练,共6份).pdf VIP
- 汽车标准规范 WD-INS-032-V02 焊装FANUC机器人软件程序标准.pdf VIP
- 汽车标准规范 WD-INS-041-V00 焊装标准工艺安全方案.pdf VIP
- 汽车标准规范 附件37《焊装设备可视化标准》.pdf VIP
原创力文档

文档评论(0)