基于自监督对比学习的推荐算法研究与应用.pdfVIP

基于自监督对比学习的推荐算法研究与应用.pdf

临沂大学硕士专业学位论文

摘要

随着社交网络的快速发展，推荐系统被使用来实现个性化信息的推荐，以解

决信息迅速膨胀的问题。其中，协同过滤作为经典的推荐算法，通过用户项目二

部图来构建交互关系。将图卷积神经网络和Transformer等热门深度学习网络应

用于协同过滤中是如今推荐系统的新方向，并且取得了不错的效果。最近对比学习

的兴起，也影响到了推荐模型，许多工作将推荐模型与对比学习结合，并使用图神经网络和

Transformer作为编码器，使推荐模型可以捕捉到更多的信息，由此提高用户嵌入的表达质

量。

但现有的研究依然存在着一些问题。图神经网络由于经过多次卷积，使得不同数据的嵌

入表达质量下降，嵌入的均匀性上升，从而导致推荐模型性能的下降。而现有的基于图神经

网络和Transformer的自监督对比学习模型会带来额外的训练负担，同时难以捕捉意图的

变化情况，丢失了意图的时序信息。针对以上推荐模型的问题，本文在以下方面进行了改进

研究：

（1）针对现有的自监督对比学习推荐模型嵌入均匀性上升和模型鲁棒性下降的问题，

本文提出了基于信息补偿的对比学习推荐算法，采用信息补偿这种自监督对比学习的方式，

使用特征嵌入的数据增强方式构建子图，提高模型对噪声的鲁棒性，优化嵌入均匀性。同时

提出了一种新的图卷积传播方式，利用局部协作传播来解决高层数据嵌入的均匀性问题。

（2）针对现有的自监督对比学习推荐模型训练负担过大的问题，本文提出了基于嵌入

空间数据增强的对比学习推荐算法，使用Transformer作为编码器建模时序信息，并提出了

两种在嵌入空间中的数据增强方式，以代替对原始数据的破坏，最大限度的保留了数据中包

含的信息。并改变了对比模型的结构，在数据增强的过程中只采用一次前向计算，减少了对

比学习模型的训练负担。

（3）针对现有的自监督对比学习模型推荐模型难以捕捉意图的变化情况问题，本文提

出了基于短期意图提取的对比学习推荐算法，该模型可以通过对用户历史行为序列进行分

析，提取出用户的意图及变化，从而为模型预测提供更多信息。采用对比学习中互信息最大

化的思想，将用户的短期意图信息与历史行为交互信息进行信息共享，最大化其一致性，以

更好地对用户进行建模。

基于自监督对比学习的推荐算法研究与应用

（4）基于以上三个章节提出的推荐算法，本文研究并实现了一个电影推荐系统。通过

使用PyQt5库等技术，实现了对用户进行个性化的电影推荐，提高了用户获取信息的便捷

度，满足了用户的个性化观影需求。

关键词：推荐系统；对比学习；图神经网络；Transformer

临沂大学硕士专业学位论文

Abstract

Withtherapiddevelopmentofsocialnetworks,recommendersystemsareusedtoimplement

personalizedinformationrecommendationtosolvetheproblemofrapidlyexpandinginformation.

Amongthem,collaborativefiltering,asaclassicalrecommendationalgorithm,constructsinteraction