petuumposeidon高效的分布式深度学习平台-talkingdata.pdf

Petuum Poseidon高效的分布式深度学习平台 主讲人 ：Petuum技术主管 于伟仁 Petuum技术主管 吴竑 Petuum Poseidon : 高效的分布式深度学习平台 主讲人 ：于伟仁 ，吴竑 Petuum Inc. Petuum, Inc. 创始人 Eric Xing, 卡内基梅隆大学(CMU)著名教授 ，人工智能学界权威 愿景 ：Petuum Inc. 致力于打造新一代全方位的人工智能操作系统和机器学习软件解决方案, 应用分布式计算和虚拟化 ，使得开发企业级AI解决方案更简化更便捷。通过使用标准化的构 件和方法 ，Petuum 产品让各公司团体机构 ，拥有创建高效、可扩展的AI/ML解决方案的能 力。 2017年1月 权威机构评选为全球最有前途的100家AI公司之一 （CB Insights AI 100 ） 2017年9月: 长城会 G-Summit 全球科学创新峰会 AI Startup Top 10. @Pittsburgh, PA, USA 3 打造下一代人工智能平台 三个产品 • Petuum OS ，企业级分布式人工智能/机器学习操作系统 ，能够桥接 目前 业界所有数据类型、任何编程语言、各种硬件架构。 • Poseidon ，高效的分布式深度学习平台 ，允许用户使用尖端设计轻松构 建新的ML和DL模型 ，运行为流行软件 （TensorFlow ，Caffe ，scikit- learn等 ）编写的现有DL程序 。 • PetuumMed ，医疗行业解决方案 ，从海量的EHR数据和医学影像数据挖 掘出及时和可行的见解 ，帮助医生了解患者的临床状况以及医疗决策支持。 4 Poseidon平台 • Poseidon: 一个高效的分布式深度学习平台 – 增强现有深度学习引擎 – 兼容现有引擎编程接口 • 现有深度学习模型不需更改任何代码 ，就可以运行在Poseidon上 引擎 工具集 平台 Poseidon 深度学习 Eagle Vulture Osprey Accipiter 深度学习模型 训练数据集 正确识别图像 带标签的图像数据 Hao Zhang6 神经网络的结构 • 本质上 ，一个神经网络由很多 “层”组成 • 每一层对应着复杂的计算 ：卷积层 ，全联通层 • 层之间每条链接的权重 ，是神经网络模型的参数 (Parameter) • 如何计算模型参数 ？