基于联邦因子分解机的广告点击率预估研究.pdfVIP

基于联邦因子分解机的广告点击率预估研究

摘要

点击率预估（Click-ThroughRate,CTR）是广告系统的核心任务之一，旨在

预测用户点击某个广告的概率，预测的准确性直接关系到广告的投放效果。传统

的点击率预估模型通常需要在中心服务器上进行训练，这样做可能会引发隐私和

安全问题。联邦学习是一种分布式机器学习方法，它避免了将用户数据集中传输

到中央服务器，每个参与方的数据不离开本地进行训练，从而提高了数据隐私和

安全性。因子分解机（FactorizationMachine,FM）是一种在广告点击率预估等多

个领域中非常有用的机器学习模型。当因子分解机与联邦学习相结合，形成联邦

因子分解机时，它不仅能够自动捕捉并处理二阶交叉特征，而且联邦因子分解机

能够在不泄露用户隐私的情况下进行数据处理，使得不同设备或组织间的数据协

作变得切实可行。然而，在处理大规模数据集时，联邦因子分解机可能会因为计

算复杂度过高而导致模型性能下降，此外联邦因子分解机还存在由于无法个性化

推荐而导致模型性能差的问题。

针对上述问题，本文进行了如下研究：

（1）本文将xLightFM模型与纵向联邦学习结合，提出基于xLightFM模型

的高性能联邦广告点击率预估方法（Fed-xLightFM）。Fed-xLightFM利用了

xLightFM的模型优化策略，有效提升了模型性能。经实验证实了Fed-xLightFM

相对于纵向联邦因子分解机算法的整体性能优势。

（2）本文将DIN模型与纵向联邦学习结合，提出基于用户历史行为数据的

个性化联邦广告点击率预估方法（FedDIN），解决了联邦因子分解机应用于现有

联邦广告推荐系统时由于无法个性化推荐而导致模型性能差的问题，经实验验证

相比于纵向联邦因子分解机，FedDIN具有更好的泛化性能。

（3）基于以上研究内容，本文设计并实现了联邦商品推荐系统作为上述研

究内容的实例验证。该系统利用基于Fed-xLightFM和FedDIN方法进行模型构

建，并对训练结果进行召回和排序，最后选择Top10的商品推荐给用户。经实验

验证，该系统不仅确保了用户隐私的安全，还为用户提供了更准确、个性化的推

荐服务。

关键词点击率预估；推荐系统；联邦学习；因子分解机

-I-

ResearchonAdvertisingClick-Through

RatePredictionBasedonFederal

FactorizationMachine

Abstract

Click-ThroughRate(CTR)estimationisoneofthecoretasksoftheadvertising

system.Itaimstopredicttheprobabilityofauserclickingonanadvertisement.The

accuracyofthepredictionisdirectlyrelatedtotheeffectivenessoftheadvertisement.

Traditionalclick-throughratepredictionmodelsusuallyneedtobetrainedonacentral

server,whichmayraiseprivacyandsecurityissues.Federatedlearningisadistributed

machinelearningmethodthatavoidsthecentralizedtransmissionofuserdatatoa

centralserver,andthedataofeachparticipantdoesnotleaveloca