二零二三年 优质公开课DStreams.pptx

离散流 Dstreams 离散流(DStreams)介绍离散流(DStreams)操作 /01离散流(DStreams)介绍 离散流或者DStreams是Spark Streaming提供的基本的抽象,它代表一个连续的数据流。 它要么是从源中获取的输入流,要么是输入流通过转换算子生成的处理后的数据流。 通过Spark引擎计算这些隐含RDD的转换算子。DStreams操作隐藏了大部分的细节,并且为了更便捷,为开发者提供了更高层的API。离散流(DStreams)介绍 DStream是一个抽象的概念 横向分别是一个DStream,一个是Lines DStream,一个是 World DStream一个表示取出的一行数据,一个表示分隔后的单个词离散流(DStreams)介绍 /02DStreams的操作 DStreams的操作 任何对DStreams的操作都转换成了对DStreams隐含的RDD的操作。 在前面的例子中,flatMap操作应用于lines这个DStreams的每个RDD,生成words这个DStreams的RDD。过程如下图所示: 1.离散流(DStreams)介绍 2.离散流(DStreams)操作

文档评论(0)

1亿VIP精品文档

相关文档