基于概率矩阵分解的推荐算法研究-控制科学与工程专业论文.docxVIP

万方数据 万方数据 上海交通大学硕士学位论文 上海交通大学硕士学位论文 基于概率矩阵分解的推荐算法研究 摘 要 推荐系统是信息过滤系统中的一种特殊形式，通过分析用户的历史 兴趣和偏好信息，在项目空间中确定用户现在或者将来可能会喜欢的 项目，进而主动向用户提供相应的项目推荐服务。随着互联网信息量 的快速增长和人们希望有效获取感兴趣信息的需求日益明确，推荐系 统在国内外也逐渐引起了业界和学术界的广泛关注和研究。推荐算法 作为机器学习、数据挖掘领域的一项研究热点，其中有效数据的稀疏 性，大量用户和推荐项目没有历史评价记录，以及推荐精准性和多样 性之间的平衡是推荐算法研究中的难点。 本文首先介绍了推荐算法领域经典的协同过滤方法和近年来热门 的矩阵分解算法以及其加入信任网络传播的模型，为了整合来自各数 据源的海量的原始数据，讨论了对各推荐应用场景下数据模型进行清 洗，整合归一化的 ETL 方法，和该 ETL 过程中的容错算法。提出了推 荐系统海量数据条件下的更新策略，以及 ETL 错误快速恢复算法的配 置和日志设计，为后续推荐算法的有效应用提供了必要的数据准备。 随后，针对目前推荐系统中冷启动用户问题，本文尝试对常用的推 荐算法作一定的改进，通过对推荐过程的多臂赌博机(bandit)方法建模， 评价前 N 次推荐序列的准确性。具体而言，本文采用最大化置信上界 (UCB)作为 bandit 决策的标准产生推荐，同时引入概率矩阵分解算法通 过随机梯度下降法能学习得到用户、项目的后验概率，直接带入 UCB 决策方程实现了推荐与学习的同步。此外，本文还应用了基于贝叶斯 概率矩阵和基于变分贝叶斯方法的置信上界多臂赌博机推荐算法，分 别从随机和定量的角度解决概率矩阵分解中参数整定困难的不足，并 直 接 通 过 迭 代 中 间 变 量 估 计 评 分 值 得 统 计 量 。 此 外 ， 本 文 通 过 I MovieLens 和 Netflix 公开数据集对提出的算法做了离线验证，结果显 示它们有效的提升了冷启动用户条件下的推荐准确度。为使推荐算法 更好地运用于实际系统，本文在验证结果的基础上进一步分析了模型 参数对于推荐结果的影响以及不同数据环境下的参数优化组合。最后， 本文给出了基于所提出 ETL 容错策略和推荐算法的系统设计实现架构 和主要技术。 关键词：推荐算法，ETL, 概率矩阵分解，多臂赌博机 II Research on Probabilistic Matrix Factorization Based Recommendation Algorithm ABSTRACT Recommendation system is a specific kind of information filtering system. By analyzing users’ past behavioral data and preference, the system predicts items which will probably meet with user interest, and recommends those item or service to end users. In the age of rapid growing internet, the demand for information is becoming personalized and diversified which leads to the research of recommendation system popular. Recommendation has been a hot research point in fields of data mining, and there exists many challenges such as rating data sparsity, cold-start user problem, the balance between precision and diversity. This paper first introduces popular recommendation method like collaborative filtering, matrix factorization and its trust propagation method. To integrate data from different sources with different format, the ETL (Extraction, transform and load) under recommendation circums