基于注意力机制的电影推荐算法研究.pdf

基于注意力机制的电影推荐算法研究

摘要

中国庞大的人口数量与巨大的观影市场使得电影行业百花齐放，随着电影

数量爆炸式增长，人们观影时会陷入选择困难。推荐系统通过已有观影数据进

行数据挖掘，并根据用户的观影习惯，帮助推荐用户感兴趣的电影，从而有效

解决这个问题。传统推荐算法只提取简单低阶的电影特征信息（如：用户对物

品的评分等），而无法刻画用户对影片多维高阶的深层感受。而深度学习技术由

于能够充分挖掘和表达更高层次的语义特征，从而可以帮助解决此问题。基于

此，本论文借助注意力机制等高级深度学习技术，展开电影推荐算法研究，主

要工作如下：

（1）提出了一种基于Transformer的电影推荐算法。考虑到已有的基于神

经协同过滤模型（NeuralCollaborativeFiltering，NCF）算法未对不同用户的偏

好给予不同关注、不能很好表达用户特征和电影特征间依赖关系等问题，影响

了推荐算法的性能，提出的方法使用Transformer技术刻画和表达提取的特征

（包括用户特征和电影特征）重要性，捕获不同特征间依赖关系，从而更好挖

掘出用户和电影间更复杂的关系，以提高模型表达能力，提升推荐算法的性能。

（2）提出了一种基于交叉注意力的电影推荐算法。考虑到在上面提出的基

于Transformer推荐算法中，仍将点积NCF和Transformer两个模型获得特征进

行直接拼装，没有充分挖掘两个特征之间更深入语义关系，可能会影响推荐性

能，提出的方法使用交叉注意力机制，挖掘两个模型（点积NCF模型和

Transformer模型）获得的特征间依赖关系，从而提取包含更丰富语义信息的特

征向量。

（3）将提出的两种算法应用于电影推荐中。在公开的MovieLens-1M数据

集上进行了测试，实验结果表明，相比较已有推荐算法，提出的算法能够获得

更好的推荐性能。

关键词：电影推荐系统；Transformer；交叉注意力机制；矩阵分解；多层

感知机

I

Researchonmovierecommendationalgorithmbased

onattentionmechanism

Abstract

Chinashugepopulationandhugemovie-goingmarkethavemadethefilm

industryflourish.Withtheexplosivegrowthinthenumberofmovies,peoplewillbe

facedwithdifficultyinmakingchoiceswhenwatchingmovies.Therecommendation

systemconductsdataminingthroughexistingmovieviewingdataandhelps

recommendmoviesthattheuserisinterestedinbasedontheusersmovieviewing

habits,therebyeffectivelysolvingthisproblem.Traditionalrecommendation

algorithmsonlyextractsimplelow-levelmoviefeatureinformation(suchasuser

ratingsofitems,etc.),butcannotdepictusersmulti-dimensionalandhigh-leveldeep

feelingsaboutthemovie.Deeplearningtechnologycanhelpsolvethisproblembecause

itcan