人工智能算法危害的表现形式分析4000字 .pdf

人工智能算法危害的表现形式分析综述

凡事皆有利弊。算法的快速发展代表了科技的进步和生产力的提升，也提高

了会分配效率，但算法的不当使用也让许多民众深受其害。本节拟选择如今

会中比较典型的“信息茧房气算法杀熟、算法黑箱和算法共谋四种算法侵害行

为，阐述其表现形式以及带来的不良后果。

1.H言息茧房

信息茧房，最早由CassR.Sunstein提出，指的是在通讯领域，人们往往倾

向于去阅读和搜索自己感兴趣的东西，而不去关注那些无法引起自身兴趣的事情,

但日复一日，用户们选择接受的信息面就会越来越狭窄，长此以往就会像蚕蛹一

样作茧自缚，把自己包裹起来而不与外界相联系。1在信息呈指数增长的今天，

每人每天接收到的信息比以往多出几倍，如何在众多的信息中，针对自己的需求

提炼出有效信息，是对人们未来发展的要求。2但现实却是，很多人面对爆炸的

信息量束手无策，只选择单一的信息摄入，这本无错，但以而以之会因为算法自

动屏蔽所谓用户“不感兴趣〃的内容而被动接收单一的消息，从而与会脱节，

变得愈发孤立。3那么，信息茧房的产生原因到底是什么？茧房的核心问题是只

推荐单一的目标，由于人的兴趣往往是单一且不易扩散的，平台以流量为目标，

自然利用这一特点和算法技术推荐与用户兴趣相似的内容。

在21世纪的今天，信息的价值日益巨大，一个人掌握的信息越充分，其在

进行人生道路选择和实现个人价值时则越能处于有利地位,在做出一些行为选择

时也会更加合理化。

然而大众参与舆论的方式因为自媒体出现而带来了巨大的变化。一时间，成

为记者的门槛全无，每个人都可以自己注册公众号，发表言论，畅所欲言，并且

算法编辑审核并不严格，进而加深了算法的危害。如今广泛应用的协同过滤算法

就是根据大量相似用户的选择来预测用户可能会喜欢的文章、书籍甚至是未来的

领导人。这小小行为的背后，轻则导致群体分极，重则阻碍会共识甚至影响民

1朱立波.《新媒体的“信息茧房”现象研究》［J］《智富时代》2019,(01)

之参见付松聚.《从8月CPI报道看机器新闻与人工新闻差异何在》，［J］《中国记者》2015,(11)

3吴小玉.在算法“黑箱”中保障用户知情权［J］.《传媒与法》，2019,(07):28-29

主的进程。4

另外,信息茧房还体现在算法按照收集到的用户习惯路径自动推送与此相关

的信息，例如曾经搜索过“茶叶”，那么算法就会不断向我们提供与茶叶有关的

信息。想要突破该视域有新的了解，就要经过一轮一轮的重新检索，让算法中我

们产生的新路径覆盖旧的路径，然而新的路径又会造成个人视域的限制。传统纸

质媒体呈现的信息是多元的，其报道涵盖政治、体育、娱乐、健康等各个领域，

而算法则让这种多元趋于单一，长此以往，难道不是一种倒退吗？

1-2算法杀熟

算法杀熟是指算法根据用户以往累积的路径和消费习惯，在预计用户可承受

范围内定价，形成同一件商品不同标价的情况，并且低频使用用户以及新用户的

定价往往低于高频使用用户的定价。随着媒体的跟踪报道，越来越多的“杀熟”

事件曝光在大众面前，也引起了不少的会争议。在数据被广泛收集的今天，对

数据的收集和加工让平台对消费者更加了解，平台不仅可以实施动态定价，获取

更高的利润，也更能够形成行业垄断，以至于影响正常的市场竞争。长此以往，

杀熟行为会被看成合理的逐利行为，甚至会成为商家暗中炫耀的资本。平台通过

软件对消费者产生的数据进行实时获取，不断地收集用户们的信息，例如可接受

的消费范围、个人习惯偏好、购买产品的个人倾向性等信息，然后模拟未来可能

产生的消费行为，再根据差异化的定价，实现点对点的精准投放营销，这些就是

我们所熟悉的消费领域里典型的算法杀熟行为。从根本上说，算法杀熟源于算法

偏见。2018年闹得沸沸扬扬的滴滴打车软件差别定价应该是第一起被公众曝光

并引来强大舆论批判的算法杀熟事件。在滴滴平台使用的算法中，苹果手机用户

被视为有能力承担更高消费的人群，因此同样的路程，安卓用户的打车费用居然

比苹果用户低得多。5然而，这只是一系列算法杀熟事件的开端：2019年携程被

发现同一航班对不同用户差别定价，2020年天猫超市也被发现差别定价，接踵

而至的杀熟事件一次又一次地将以往公众所信任的知名企业拽入诚信危机的漩

涡，也让公众对算法的运行产生了不信任感。6不得不说，这