阿里巴巴离线大数据处理平台概述.pptxVIP

  1. 1、本文档共31页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
阿里巴巴离线大数据处理平台概述

阿里巴巴离线大数据处理平台概述 汤子楠 个人介绍 汤子楠 数据平台事业部,产品经理 2007~2010 移动互联网,触屏交互 2010至今 云计算,大数据 2 提纲 大数据时代 阿里巴巴数据事业部 离线大数据处理平台(ODPS) 我们面临的主要问题 ODPS部分功能概览 结语 大数据时代 4 大数据时代的挑战 5 阿里巴巴的大数据产品探索 淘宝贷款 7 解决小微企业贷款难的问题: 金额高 流程长 授信难 周期长 完全以数据驱动的产品 对既有数据进行二次挖掘 颠覆原有业务模式 规模优势 阿里巴巴大数据事业部 8 阿里巴巴离线大数据处理平台 ODPS (Open Data Processing Service) 支持海量结构化数据的离线存储和计算 以RESTful API的方式提供服务 基于阿里巴巴自主知识产权的分布式操作系统 支持高吞吐量的数据上传下载服务 支持SQL和存储过程 支持MapReduce、BSP编程框架 支持常用的矩阵运算和数据挖掘算法 支持多用户管理和基于ACL和policy的权限控制 基于ODPS可以打造完整的数据仓库解决方案 我们面临的主要问题 首先需要提供一个高效稳定的离线存储和计算引擎 如何支撑5万、15万台以上的机群规模? 多集群架构,运维和管理系统 如何在一个平台上支持多个组织的多个用户进行开发? 多租户支持,安全隔离,权限控制 如何了解业务运行状态? 元数据管理,指标系统 如何管理不同种类的任务? 服务化,统一计算入口,可度量和控制的计算资源 准实时查询,R-ODPS,…,我们还在继续探索 高效稳定的计算模型 11 SQL、Map Reduce仍然是离线运算的主流, 但是, 频繁IO带来的性能瓶颈… 模型描述能力的局限… 准实时查询 12 优势: 避免IO消耗 节约调度成本 劣势: Failover 资源占用 数据规模 适用场景: Ad hoc分析 图编程 功能: 统一的API、授权、数据存储、meta Master-slave,worker负责子图 通过迭代在节点间通讯和修改图拓扑 挑战: 数据倾斜时的内存控制 与其他类型作业共存 错误恢复 优势: 方便处理图数据 多轮迭代性能远好于MR 应用场景: 推荐、社交网络、物流、… 利用图编程实现SSSP算法(1) GraphLoader – 图加载基类 public static class SSSPGraphLoader extends GraphLoaderLongWritable, LongWritable, LongWritable, LongWritable { @Override public void load(Record record, MutationContext... context) { SSSPVertex vertex = new SSSPVertex(); vertex.setId((LongWritable) record.get(0)); String[] edges = record.get(1).toString().split(,); for (int i = 0; i edges.length; i++) { String[] ss = edges[i].split(:); vertex.addEdge(new LongWritable(Long.parseLong(ss[0])), new LongWritable(Long.parseLong(ss[1]))); } context.addVertexRequest(vertex); } } 利用图编程实现SSSP算法(2) Vertex – 点基类 public static class SSSPVertex extends VertexLongWritable, LongWritable, LongWritable, LongWritable { @Override public void compute(ComputeContext… context, Iterable messages) { long minDist = (getId() == 1) ? 0 : Integer.MAX_VALUE; for (LongWritable msg : messages) { if (msg minDist) { minDist = msg; } }

文档评论(0)

chenchena + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档