被算法控制的社会（一）.docxVIP

被算法控制的社会（一）

美国加州大学詹娜·布瑞尔马里恩·弗尔卡德；上海社会科学院杨泽凡/译

发布时间:2024-02-22

译者按：通过将数据集与代码进行配对（或算法处理）的方式，在大部分社会机构中都取得了发展。文章旨在研究这一现象所带来的社会结构的变化。首先，“编码精英”作为新职业阶层开始崛起，这一群体通过对数字生产手段的技术性控制，从“新边缘化”或未获得报酬的“网络无产者”（Cybertariat）中攫取劳动价值。其次，在社会各领域中被广泛应用的数字优化技术对于算法决策的主导地位的强化，不仅可能改变社会再生产以及社会流动的路径，还可能激起被管理者的抵抗。最后，文章分析了数字通信系统中普遍存在的算法中介是如何转变人们互动、交往和思考方式的。作

者认为在谨慎对待人工智能所作出极端承诺的同时，也要认识到算法、社会结构以及个人主体性之间日益紧密的联系。

关键词：算法社会，黑客伦理，编程精英，精算主义

一、黑客伦理与硅谷精神

在20世纪40年代，绵延起伏在圣何塞和旧金山间的圣克拉拉群山低谷，以其花果飘香、牛羊成群的果园和牧场而闻名。在电子工程学领域，尽管斯坦福大学是最早的开拓者之一，但其仍被称为“农场”——虽然这一叫法仍体现了“19世纪强盗大亨和他妻子多愁善感的淳朴”。①斯坦福大学从田园般的象牙塔彻底转变为全球经济的强大集团，源自冷战开始时政府大规模的投资活动。乘着科学的崇高语言“无尽边境”开发的东风（Bush1945），国防部的丰沛财力开始涌

入大学，最终覆盖到西海岸。

然而，与政府的联姻并非易事。越南战争和20世纪60年代“反文化运动”的兴起，使得军方赞助以及技术创新军事

化，这日益引起居住在该地区的工程师和计算机科学家阶层的反对。他们急切地宣示自己的自治权，主张信息自由流

通、社区政治优先以及平等互惠。在一次又一次的技术革命②的冲击下，“硅谷”（SiliconValley）这个永恒的神话开始逐渐凝结成晶。在帕洛奥尔托，许多大公司都是在车库和地下室里诞生的。高管们都是大学辍学生，没有人佩戴领带，企业的等级结构扁平化。工程师们通过壮观的文化形式如“火人节”来颂美这些价值原则以及他们自己。然而，他们粗鲁绝俗的伦理观念与无政府的自由主义政治关联在一起，便充当了意识形态的功能，而这也帮助他们消除联邦政府干预和推动这个行业开拓者依靠自己取得成功的商业史神话。尽管人们喜欢讨论社区政治和互惠交流，但科技领袖和普

通员工都把个人主义、竞争和适者生存作为坚定的信仰。

在2000年3月互联网泡沫破灭后，一场重要的转变开始了。硅谷处在了十字路口。当时，与互联网相关的企业虽然还是处于初创阶段，但是这些企业却在努力展示其长期的盈利能力。其中，幸存下来的初创企业，比如谷歌，至今仍在提

供免费服务，但他们并没有明显的盈利策略。这是比较蹊跷的现象。改变人们对这一现象认识变化的原因，源于肖沙娜

·祖博夫（ShoshanaZuboff）所称的“行为剩余”的偶然发现。这是祖博夫的功劳。突然间，她发现人们在网上闲逛和驻留时留下的数字记录痕迹，居然在没有利润的搜索、聊天、社交互动等业务中可以被广告商们利用。这样的事情也确实发生了。公司开始将它们所产生的偶发数据与新的机器学习算法技术相结合来预测人类行为。通常是开放和名义上免费的广告支持平台，开始取代昂贵的盒装软件的旧模式。现在似乎任何人都可以开发一个应用，而且任何人都能负担得

起使用它。独立开发者可能会获得巨大利润，有些人也确实取得了成功。

这种民主化的开放获取和发展的另一面，是对用户监视和操纵的加强。现在，对用户隐私或消费者福利的狡诈使用阻碍了业务的发展。创造收入越来越依赖于欺骗。为了吸引用户的注意力，开发人员采用了源于赌博行业的成瘾心理。与他们自己对开放、自由和社会联系的崇高赞美不同的是，这些公司现在专注于从更多人那里生成越来越多的数据，并巧妙地操纵它们以确保预期的结果：滑动、点击或者更好的购买行为。使这种“工具性权力”③的发展成为可能的办法，是采用现有法律来满足信息资本主义的需求。首先，科技公司将通过cookie和跟踪器把生成的个人数据确定为大量且免费获取。他们通过平台协议和看似良性的样板合同来获取数据，这些合同将该过程构建为互惠互利的交换。④其次，他们通过涉及专利的合法所有权和关于商业机密的争论来小心翼翼地保护他们的数据赏金。一旦其被标记为“法律特权的标志”，⑤那么，本应属于个人或公共领域的数据，就仿佛处于封闭或殖民的现代化进程之中，他们将被侵占并

重新编码为私人资本或资产。

今天，在对数字生产资料所有权前所未有的争夺中，一种新的阶级关系体系呼之欲出。本文分析了与科技产业崛起有关的社会分工以及通