- 1、本文档共31页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
阿里巴巴离线大数据处理平台概述
阿里巴巴离线大数据处理平台概述
汤子楠
个人介绍
汤子楠
数据平台事业部,产品经理
2007~2010
移动互联网,触屏交互
2010至今
云计算,大数据
2
提纲
大数据时代
阿里巴巴数据事业部
离线大数据处理平台(ODPS)
我们面临的主要问题
ODPS部分功能概览
结语
大数据时代
4
大数据时代的挑战
5
阿里巴巴的大数据产品探索
淘宝贷款
7
解决小微企业贷款难的问题:
金额高
流程长
授信难
周期长
完全以数据驱动的产品
对既有数据进行二次挖掘
颠覆原有业务模式
规模优势
阿里巴巴大数据事业部
8
阿里巴巴离线大数据处理平台
ODPS (Open Data Processing Service)
支持海量结构化数据的离线存储和计算
以RESTful API的方式提供服务
基于阿里巴巴自主知识产权的分布式操作系统
支持高吞吐量的数据上传下载服务
支持SQL和存储过程
支持MapReduce、BSP编程框架
支持常用的矩阵运算和数据挖掘算法
支持多用户管理和基于ACL和policy的权限控制
基于ODPS可以打造完整的数据仓库解决方案
我们面临的主要问题
首先需要提供一个高效稳定的离线存储和计算引擎
如何支撑5万、15万台以上的机群规模?
多集群架构,运维和管理系统
如何在一个平台上支持多个组织的多个用户进行开发?
多租户支持,安全隔离,权限控制
如何了解业务运行状态?
元数据管理,指标系统
如何管理不同种类的任务?
服务化,统一计算入口,可度量和控制的计算资源
准实时查询,R-ODPS,…,我们还在继续探索
高效稳定的计算模型
11
SQL、Map Reduce仍然是离线运算的主流,
但是,
频繁IO带来的性能瓶颈…
模型描述能力的局限…
准实时查询
12
优势:
避免IO消耗
节约调度成本
劣势:
Failover
资源占用
数据规模
适用场景:
Ad hoc分析
图编程
功能:
统一的API、授权、数据存储、meta
Master-slave,worker负责子图
通过迭代在节点间通讯和修改图拓扑
挑战:
数据倾斜时的内存控制
与其他类型作业共存
错误恢复
优势:
方便处理图数据
多轮迭代性能远好于MR
应用场景:
推荐、社交网络、物流、…
利用图编程实现SSSP算法(1)
GraphLoader – 图加载基类
public static class SSSPGraphLoader extends
GraphLoaderLongWritable, LongWritable, LongWritable, LongWritable {
@Override
public void load(Record record, MutationContext... context) {
SSSPVertex vertex = new SSSPVertex();
vertex.setId((LongWritable) record.get(0));
String[] edges = record.get(1).toString().split(,);
for (int i = 0; i edges.length; i++) {
String[] ss = edges[i].split(:);
vertex.addEdge(new LongWritable(Long.parseLong(ss[0])),
new LongWritable(Long.parseLong(ss[1])));
}
context.addVertexRequest(vertex);
}
}
利用图编程实现SSSP算法(2)
Vertex – 点基类
public static class SSSPVertex extends
VertexLongWritable, LongWritable, LongWritable, LongWritable {
@Override
public void compute(ComputeContext… context, Iterable messages) {
long minDist = (getId() == 1) ? 0 : Integer.MAX_VALUE;
for (LongWritable msg : messages) {
if (msg minDist) {
minDist = msg;
}
}
文档评论(0)