基于Spark组件的数据处理方法、装置、设备及介质.pdfVIP

下载本文档

1
0
约1.71万字
约 15页
2023-04-22 发布于北京
举报
版权申诉

基于Spark组件的数据处理方法、装置、设备及介质.pdf

1、本文档内容版权归属内容提供方，所产生的收益全部归内容提供方所有。如果您对本文有版权争议，可选择认领，认领后既往收益都归您。。
2、本文档由用户上传，本站不保证质量和数量令人满意，可能有诸多瑕疵，付费之前，请仔细先通过免费阅读内容等途径辨别内容交易风险。如存在严重挂羊头卖狗肉之情形，可联系本站下载客服投诉处理。
3、文档侵权举报电话：400-050-0827(电话支持时间：9:00-18:30)。
4、该文档为VIP文档，如果想要下载，成为VIP会员后，下载免费。
5、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
6、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
7、VIP文档为合作方或网友上传，每下载1次，网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档

本发明实施例公开了一种基于Spark组件的数据处理方法及装置，所述方法包括：获取SQL数据处理指令，确定与所述SQL数据指令对应的至少一个处理参数；将所述至少一个处理参数传输给预设的ETL框架，创建Spark会话控制；基于所述Spark会话控制，根据所述至少一个处理参数确定与所述SQL数据处理指令对应的目标数据库以及目标数据处理方式，并基于所述目标数据库和目标数据处理方式进行数据处理。采用本发明实施例，可以对各种数据库的数据进行处理，提高数据处理的便利性。

(19)国家知识产权局 (12)发明专利 (10)授权公告号 CN 113934752 B (45)授权公告日 2022.06.03 (21)申请号 202111547454.7 G06F 16/25 (2019.01)