大规模机器学习技术.pdf

大规模机器学习技术 夏粉 2015年3月30 日 Outline • 广告背景 • 大数据机器学习 • 深度学习与CTR • 总结展望 搜索广告: Search Ads 展示广告：Display Ads 广告与点击率预估 广告核 流量 心问题 变现 • 给定环境下，用户与广告的最佳匹配 profit PV *CTR *ACP 方法 • 依赖机器学习和大数据，做精准CTR预估 广告系统介绍 大致流程 Google 搜索 AdWords 广告 系统 百度凤巢 竞价排序 点击率预估 Google AdSense 广告候选 展示 广告 百度网盟 有广告位的展现 系统 RTB (Real Time Bidding) 点击率（CTR ）预估问题 Query  例：鲜花 用户 广告商  鲜花网  cookie\历史搜 索  把广告放在第一位 点击率 展现  广告被用户点击的 预估 样式 概率 Outline • 广告背景 • 大数据机器学习 • 深度学习与CTR • 总结展望 大数据机器学习 大型分布式模型训练 核心 技术 大规模线性Logistic 点击率 Regression模型 （CTR ） 现状 预估 未来 问题规模 ： 大规模深度学习模型 • 数据存储和管理：上万台机器 • 数据量：百亿到千亿级 • 特征数：百亿到千亿级 （稀疏离散值特征） CTR预估的机器学习流程 特征生成 线上预测 • 把广告展现成一个向量