被算法控制的社会（四）.docxVIP

被算法控制的社会（四）

美国加州大学詹娜·布瑞尔马里恩·弗尔卡德；上海社会科学院杨泽凡/译

发布时间:2024-02-27

当算法在评估方面出现严重错误（而不是出奇的准确）时，这个过程可能会特别压抑人心。正如我们已经看到的，误认问题的发生并不是在人口中随机分布的。面部识别系统经常辨识不出深色肤色的人脸，并且在错误地识别黑人女性方面存在不成比例的性别歧视问题。搜索引擎的结果返回有偏见的描述，严重影响女性和少数族裔成员。在人与机器的界面上，历史上处于主导地位的群体受到新形式的象征性暴力的不成比例的影响。对于他们来说，“镜子玻璃亭”更像是一个玻璃笼子——充满着无知、漠视和错误分类，坚持“不顾个人主张，将种族身体和个人身份（或群体身份）视为

真理”。（45）更根本的是，这种机械化加剧了种族化身份制度和其伴随的不平等所导致的主体性否认。

（二）算法界面的道德经济

许多负责在线交互的广阔数字基础设施，是以广告收入为导向的，并需要人类用户的浏览和点击来维持其运营。数字企业精心编程社交性，以实现最大的经济效益。（46）这些企业痴迷于追踪用户在某个网站上花费的时间，以此产生个人数据并最大化广告曝光，将其委婉地称作“参与度”（Engagement）所依赖的。网站访问者被要求对输入数字流程中的数据进行预处理。诸如按钮、表情符号、标签、哈希标签、认证和其他形式的用户指导行为等标识，有助于对社交世界的杂乱进行分类，以使其变得机器可读。但是，它们也创造了新的功能，拥有自己的生命力，推动着数字环境中的

社交动力学产生。（47）

由Facebook等平台带来的持久性延续了人际关系，否则这些关系可能会逐渐消失，而算法的联想特性和平台的引导能力，则使人际关系可以获得原本不存在的机会。平台的策略性提示、被动地更新消息和设计上的社交认可与批准等功能，会进一步培养社交焦虑、强迫性习惯和竞争心态。不参与可能会确保某种自由，但也可能意味着社会孤立。大量参与可能会带来名利，但也可能导致极度过度曝光。平台通常会发现利用病毒式的内容和其他出现的社交方式有利可图，

也就是说，除非他们将其解释为操纵算法，否则必须加以控制或消除。

通过这些心理和经济技巧，Twitter、Facebook、YouTube、Instagram、Reddit等其他少数公司（48）运营的数字平台已成为事实上具有几乎垄断社交关注分配权的全球公共领域。现在，由于大多数人都从社交媒体获取信息，任何寻求曝光或追求行动目标的人都必须掌握这个新的领域。公共辩论、知识传播、积极追求和新闻报道都与社交媒体中介及其

秘密算法息息相关。但是，人们被要求自己解析的大量信息“经常引发偏执和其他形式的公众知识和参与的猜测”。

（49）经验丰富或资金充足的活动家新秀、协调的在线暴徒和负责制作“点击诱饵”的人不断取代原先的行业巨头。数字生产手段的不平等斗争，容易使集体动员和反动员的精神顿挫不前。反而，贪婪的算法法术催起了阴谋、信仰和闲言

碎语等旧恶魔。

（三）从算法化社会到社会化算法

编程精英的终极目标以及他们专业项目的最终目标，就像他们构建的算法一样，仍然是不透明的。这可能只是反映了缺乏共识；在所持的未来梦想上，他们的成员存在较大的分歧。许多计算机科学家持有的最雄心勃勃的梦想是：算法社会只是新社会物种降临的前奏，一种能够复制或超过人类智能并可能逃脱人们控制的智能通用人工智能。摩尔定律规定了计算机的能力趋向呈指数增长。如果我们接受智能的衡量和进一步发展的能力是根植于处理能力的前提，那么这个

定律标志着一条明确的轨迹。

然而，人工智能在社会中的轨迹并不仅是一个人类是否会受益的问题，而是谁会受益的问题。新的学习分野将知者与被知者相对抗；那些使人工智能工作的人对抗那些使人工智能为自己工作的人。不同于受监测者、被误解和疏远的群体，数据资本家可以修正、控制或改善他们的个人数据呈现，或者从监视制度中完全出卖自己，或者从人工智能中获得新的好处。最近，对于神经移植、智能义肢和数据密集型基因工程等方面的讨论和具体投资，重新点燃了旧有的半机械人幻想，释放出了哈拉维（Haraway）等人所思考的可能性。如果这种世界真的到来，那么编程精英不仅能通过对新的数

据输出（如神经信息）的产权主张而增加其物质力权力，而且能真正地使用新技术来增强自己的思维和身体。

目前，主导行业的讨论承诺了一种更温和、更可接受、更少偏见的人工智能，符合最佳实践和道德注入。但尽管关于公平性和价值调整的讨论很多，已经确立的技术轨迹仍然牢固：风险投资办公室和初创企业继续推出无处不在的计算

世界，覆盖人体、平凡的物体和城市中的一切。

多年来，许多人预言摩尔定律的终结已经迫在眉睫。（50）根据那些最有可能实现这种情况的技术专家的