基于多任务学习的物流广告转化率预测技术研究与实现.pdfVIP

摘要

线上物流广告是传统物流行业与互联网广告技术融合发展的成功实践，为人们的生活和

工作提供了便利。物流广告投放的目的是要在特定的情境中，找到物流广告和其目标用户之

间的最佳匹配。因此，用户转化率预测是实现物流广告精准投放的核心任务。然而，一方面，

物流广告相较于传统的电商广告具有更长的转化序列，面临更为严重的数据稀疏问题，类似

的情况也出现在金融广告和保险广告中。另一方面，现有的工作往往通过用户线上行为获取

用户的兴趣偏好。但在物流广告场景中，并不能直接从用户的线上行为中获得用户物流服务

兴趣偏好。

由于互联网平台的特点，用户转化过程中的多个中间步骤被记录了下来。这为本文探索

长转化序列广告场景下的用户转化率预测问题提供了机遇。并且，用户的线下行为也隐含了

用户潜在的意图和兴趣偏好，这为本文探索物流广告场景下的转化率预测问题提供了另一个

机遇。然而，利用这些机遇也充满了挑战：建模用户在转化过程中的多个步骤的顺序依赖性

的同时减少任务之间的负面影响具有挑战性；用户的线下行为并不直接与待推荐的项目产生

交互关系，从用户的线下行为信息中提取出用户偏好表示也具有挑战性。为了解决以上挑战，

本文设计了一个基于多任务学习的渐进多任务条件注意网络PMCA，它包括（1）用户兴趣偏

好提取模型，提取用户的线下行为中的物流服务兴趣偏好表示；（2）基于多任务学习的用户

转化率预测模型，对用户转化序列中的多个步骤建模，并融合用户物流服务兴趣表示对用户

的转化率进行预测。具体来说，用户兴趣偏好提取模型的输入是用户线下行为序列，将数据

预处理后的用户线下行为序列输入到兴趣偏好提取网络中，经过兴趣提取和全连接层映射，

最终获得用户的物流服务兴趣偏好的嵌入表示；基于多任务学习的转化率预测模型的输入是

从用户画像数据、用户订单数据和线上行为数据得到的各类特征，并融合用户兴趣偏好提取

模型得到的用户兴趣偏好嵌入表示，通过将用户在转化过程中的多个步骤建模为多个任务，

通过多任务之间的知识传递以缓解数据稀疏问题，并输出转化率预测结果。

本文从真实世界中收集了5180万条物流广告数据，这些数据来自于中国最大的推荐系统

平台之一，即京东。并且，在收集的物流广告数据集和AliCPP公开数据集上分别进行离线实

验。离线实验结果表明，PMCA模型在长转化序列广告场景下和传统的电商广告场景下都优

于现有的转化率预测方法。此外，本文将提出的方法部署到真实的线上推荐系统中，评估

PMCA模型在现实应用中的表现。在线测试结果较基线方法在转化率上提升21.21%，说明了

本文提出方法在现实应用中的有效性。

关键词：在线广告，推荐系统，多任务学习

Abstract

Onlinelogisticsadvertisingisasuccessfulpracticeofintegratingtraditionallogisticsindustry

withinternetadvertisingtechnology,whichprovidesconvenienceforpeopleslivesandwork.The

purposeoflogisticsadvertisingistofindthebestmatchbetweenlogisticsadvertisinganditstarget

usersinspecificcontexts.Therefore,conversionratepredictionisanessentialtasktoachieveaccurate

deliveryoflogisticsadvertising.However,ontheonehand,comparedwithtraditionale-commerce

advertising,logisticsadvertisinghasalongeruserconversionsequenceandfacesmoreseveredata

sparsityproblems,similarsituationsalsoariseinfinancialandinsuranceadvertising.Ontheother

hand,exist