人工智能的近期进展及其在广告投放中的应用.pdfVIP

⼈⼯智能的近期进展
 及其在⼴告投放中的应⽤ 王志鹏 算法⼯程师、数据科学家@Bulbit About me • ⼈⼯智能博⼠ • ⼈⼯智能10年 ⼈⼯智能与机器学习 • ⼦集 • 新进展 机器学习 • 统计 + 概率 • 与传统统计⽅法的区别 – 实⽤中⼼主义 – 与新计算机硬件结合紧密 机器学习 •   0.1 • 学习率（learning rate） – 调节的⼤⼩ – 实际⼯业系统⾥⾯真正使⽤ – 随着看到的数据变多，学习率变⼩ • 随机梯度下降 深度学习（深度神经⽹络） •   案例分享 • 1. 情⽐⾦坚 – 使⽤卷积神经⽹络判别⾊情图⽚ • 2. 身残志坚 – 使⽤强化学习的⽅法玩雅达利游戏 情⽐⾦坚 • 背景 – 不允许⾊情图⽚ – 4000万 0.1% – ⼈⼯ • ⽅法 – 哈希⼿法与卷积神经⽹络 • 结果 – 97.5%的正确率 100⼯⼈的⼯作可以由20⼈完成 卷积神经⽹络 • 输⼊：图⽚ • 输出：⾊情图⽚的可能性 • 学习过程：调整参数，使得神经⽹络在训练数据上的判断变得正确 • 预测：给新的图⽚，预测⾊情图⽚的可能性 • 模型： – 卷积 – 池化 卷积神经⽹络 • 卷积：四处寻觅⼀种感觉（模式） • ⽅法：四处乘起来再加起来 卷积神经⽹络 卷积神经⽹络 • 池化：找到感觉（模式）的⾼点 情⽐⾦坚 • VGG NET 16 细节 • 使⽤前⼈在ImageNet上训练好的⽹络权重 – /baraldilorenzo/07d7802847aaad0a35d3 – 把最后的输出层从1000变为2 – 在⾃⼰的训练数据上训练 • 软件 – Keras + Theano • GPU K80 – 很贵 • 学习率 – 0.1/500 Demo • 图像识别 身残志坚（强化学习） • 13年年底 – 雅达利 • 80% 身残志坚 • What we have – A game 外部环境 • What we want – ⼀个看到图像决定向上或者向下的决策机制 • 看到当前情景（图像），做事情（向上或者向下），环境给反馈（赢或者 输⼀分） • 输赢不仅依赖当前动作，还依赖之前动作！ 身残志坚 • 跟情⽐⾦坚的区别 – 情⽐⾦坚的每个图⽚都是⼯⼈标记好了的 – ⼯⼈是很好的⽼师 – 这⾥的每张图⽚要怎么做是完全没有标记的，需要⾃⼰⼀边探索⼀边学习，能够得 到的是环境冷冰冰的反馈 – 没有⽼师，⾃⼰探索 ⽩板讲解 • Discounted reward 身残志坚 • 围棋？股票？ • ⼈⽣！ • Gym + Keras • /pitybea/rl-test 机器学习与⼴告套利 • 套利 – 取得价格差 • 利⽤⽩板讲⼀下RTB的故事 套利 • 买bid request • 卖转化 – 游戏安装 机器学习 • 买与卖有时间上的差别 • 在买的时候通过机器学习对货物估价，以及选择⼴告 – ⼀次安装客户⽀付1000 ⽇元 – 点击率是0.1%，点击后安装率是2% – 0.02 ⽇元 – 1000个bid request，可以出20 ⽇元× 0.8 = 16 ⽇元 机器学习 • 预测点击率 • 预测点击后安装率 • 数据：履历 – 特征：时间，星期⼏，操作系统，地域，男⼥，年龄，浏览履历 – 标签：点击与否，安装与否 • 学习 – 根据履