一种私有云数据传输方法及数据管理平台.pdfVIP

  • 0
  • 0
  • 约1.5万字
  • 约 13页
  • 2023-05-05 发布于四川
  • 举报

一种私有云数据传输方法及数据管理平台.pdf

本发明公开了一种私有云数据传输方法及数据管理平台,涉及大数据处理技术领域,所述方法主要包括:利用flume组件、sqoop组件和datax组件采集异构数据,并通过canal组件将所述异构数据统一传输到kafka组件中,同时将所述异构数据分别存储在hive组件和hbase组件中;利用MapReduce组件和Spark组件对存储在hive组件中的数据进行离线计算;利用phoenix组件为存储在hbase组件中的数据添加二级索引,并利用Spark组件和flink组件对数据进行实时计算;利用DBapi组

(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 114297281 A (43)申请公布日 2022.04.08 (21)申请号 202111613553.0 (22)申请日 2021.12.27 (71)申请人 杭州

文档评论(0)

1亿VIP精品文档

相关文档