CN114417172B 一种深度兴趣进化推荐方法、装置、设备和存储介质 （西安交通大学）.docxVIP

(19)国家知识产权局

(12)发明专利

(10)授权公告号CN114417172B(45)授权公告日2025.07.11

(21)申请号202210096536.2

(22)申请日2022.01.26

(65)同一申请的已公布的文献号申请公布号CN114417172A

(43)申请公布日2022.04.29

GO6N3/08(2023.01)

(56)对比文件

CN113822742A,2021.12.21CN113672811A,2021.11.19审查员尹泽辉

(73)专利权人西安交通大学

地址710049陕西省西安市咸宁西路28号

(72)发明人徐亦飞张美丹朱利尉萍萍程菊飞张屿琪曹帅

(74)专利代理机构西安通大专利代理有限责任公司61200

专利代理师李鹏威

(51)Int.CI.

GO6F16/9535(2019.01)

GO6N3/0455(2023.01)权利要求书2页说明书7页附图3页

(54)发明名称

一种深度兴趣进化推荐方法、装置、设备和存储介质

(57)摘要

本发明公开了一种深度兴趣进化推荐方法、装置、设备和存储介质，训练数据集中提取模型所需要的用户特征和项目特征，并将提取的用户特征和项目特征按用户进行分组，对分组后的项目按时间戳进行排序，从排序后的项目中提取用户嵌入特征和项目嵌入特征，根据提取的用户特征和项目特征生成位置嵌入特征，将项目嵌入特征与位置嵌入特征相加后输入到建立的Transformer网络得到输出结果，将Transformer

CN114417172B网络得到输出结果与用户嵌入特征连接后输入到一个两层的前馈神经网络，采用GELU作为激活函数得到最终的概率分布，通过概率分布得到最终预测项目，基于高阶特征融合的深度进化推荐

CN114417172B

输入单元

处理器?

存储器?

101?

102?

103?

CN114417172B权利要求书1/2页

2

1.一种深度兴趣进化推荐方法，其特征在于，包括以下步骤：

S1,从训练数据集中提取模型所需要的用户特征和项目特征，并将提取的用户特征和项目特征按用户进行分组，对分组后的项目按时间戳进行排序，从排序后的项目中提取用户嵌入特征和项目嵌入特征；

S2,根据提取的用户特征和项目特征生成位置嵌入特征，将项目嵌入特征与位置嵌入特征相加后输入到建立的Transformer网络得到输出结果；

S3:将Transformer网络得到输出结果与用户嵌入特征连接后输入到一个两层的前馈神经网络，采用GELU作为激活函数得到最终的概率分布，通过概率分布得到最终预测项目；

取用户较长时间段内交互过的itemembedding聚成若干类，再将每类中的嵌入生成用户嵌入特征；

采用Lance-WilliamsAlgorithm计算方法，设初始化为5个簇分别为{A,B,C,D,E},计算五个簇相互之间的ESS,通过计算发现A、B两个簇最接近，则合并为簇AB,现在共有4个簇{AB,C,D,E},则其计算ESS的公式为：

其中K代表除AB簇外的其他簇，na、n,、n.代表A、B、K簇中节点数量，初始每个节点为1簇，故n=1,通过此ESS计算方式，大大减少了聚簇过程中的计算量；

采用Medoid方法，找到每个类簇中所有项目中的一个来代表本类簇，该项目满足与同簇内其他成员的平方距离之和最小；

embedding(C)←Pm,where

利用产生的itemembedding代表本类簇，通过键值对方式进行存储，方便供模型的后续计算使用。

2.根据权利要求1所述的一种深度兴趣进化推荐方法，其特征在于，使用GELU作为激活函数得到概率分布：

P(v)=softmax(GELU(hw2+b)E+b9(5)

其中W是可以学习的投影矩阵，bP、b?是偏差项，E是商品集V的Embedding矩阵，h为前馈神经网络的输出。

3.根据权利要求1所述的一种深度兴趣进化推荐方法，其特征在于，用户特征包括用户ID、性别、年龄、职业、用户对项目的平均评分、用户评价项目总数。

4.根据权利要求1所述的一种深度兴趣进化推荐方法