个性化推荐算法下的个人自主利益保护.pdfVIP

个性化推荐算法下的个人自主利益保护

内容摘要

人工智能时代，基于大数据、机器的深度学习和算法自动化决策的个性化

推荐算法正被运用于各种各样的场景。通过大量收集个人数据信息，形成用户

画像并依托基于内容的推送和协同过滤方法，个性化推荐算法左右个人的行为

乃至思想自由，侵蚀个人自主利益。

本文第一部分对个性化推荐算法的概念及其运作方式进行了界定，并对个

性化推荐算法的一些主要运用场景进行了介绍。

本文第二部分旨在揭示个性化推荐算法对个人自主利益产生了怎样的影响

以及我们对个性化推荐算法下的个人自主利益予以保护的法理基础。在行为层

面，个性化推荐算法与行为经济学的助推理论相结合，通过优化排序、热点显

示等方式影响个人的自主决定。在思想层面，个性化推荐算法在短视频娱乐、

新闻推送等场景的运用可能会导致“信息茧房”和“回音壁”现象。“信息茧

房”下个人能够接收的信息趋于同质化，个人的思想自由受到侵蚀，最终使每

个人的个性自由发展的可能性受到限制。个性化推荐算法对个人行为、思想层

面的侵蚀最终作用于个人的理性能力之上。人类的理性本就是有限的，个性化

推荐算法正助长每个人头脑中的认知偏差、感性冲动、从众心理以及惰性。人

们正越来越习惯于依赖于“直觉思维系统”和个性化推荐算法做决定。从行

为、思想、理性能力三个层面，个性化推荐算法正摧毁个人自主的根基。因

此，从法理上来说，我们需要在法律层面对个性化推荐算法进行治理，以保护

个人自主利益。

第三个部分则是从隐私权、个人信息利益保护与个人自主利益保护的关系

的角度论述了以个人自主利益保护为中心对个性化推荐算法进行治理的现实原

因。笔者首先论述了隐私权保护与个人信息保护与个人自主利益保护的关系。

以及隐私权与个人信息利益保护角度在个人自主利益保护场景下的局限性。由

于个性化推荐算法运行的基础是大量的个人信息的收集和处理，《个人信息保护

4

法》对隐私权和个人信息利益的保护从源头上为个人自主利益的保护提供了帮

助。但是这不足以为个人自主利益提供完备的保护。一方面，即便是个性化推

荐算法在信息的收集和处理方面没有侵犯隐私权和个人信息利益的过错，仍然

有对个人自主造成不利影响的风险；另一方面，个人想要从隐私权保护和个人

信息利益保护角度摆脱个性化推荐算法的掌控成本过高。

第四部分的主要内容是在个人自治层面确立个人与个性化推荐算法服务提

供者之间适当的权利义务体系。笔者提炼出两条从更根本的角度对个性化推荐

算法下的个人自主利益提供保护的建议，第一是我们应该强化以告知义务为核

心的告知同意原则，提高个人的数字理性。第二是根本性的赋予个人以个性化

推荐算法应用拒绝权使其成为个人脱离个性化推荐算法掌控的王牌。

第五个部分则是个性化推荐算法下个人自主利益保护的国家治理层面。笔

者首先从国家介入治理的条件和国家介入治理的目标两个方面搭建了个性化推

荐算法下个人自主利益保护的一般场景。然后，笔者选取了当下三个典型的需

要国家介入治理的场景进行了分析。

关键词：个性化推荐算法；个人信息保护；个人自主利益

Abstract

Intheeraofartificialintelligence,personalizedrecommendationalgorithms

basedonbigdata,machinedeeplearningandalgorithm-basedautomateddecision-

makingarebeingusedinavarietyofscenarios.Bycollectingalargeamountof

personaldatainformation,forminguserportraitsandrelyingoncontent-basedpush

andcollaborativefilteringmethods,personalizedrecommendationalgorithms

influenceindividualbehaviorandevenfreedomofthought,erodingindividual

autonomyinterests.

Thefirstpa