人工智能伦理视角下机器非殖民化的批判性设计研究.pdf

人工智能伦理视角下机器非殖民化的批判性设计研究①

王帆（南京艺术学院设计学院，江苏南京210013）

[摘要]文章从机器视觉的诡谲追溯了算法决策是如何在技术系统中编码偏见的，价值失范等伦理问题深植于机器学习驱动的算法社

会中，也与人工智能作为采掘业的地球基础设施深度纠缠。笔者思考在计算思维驱动的技术修复解决方案之外，具有非殖民化边界思

维的批判性设计是否可以作为替代方案，以当代技术蕴含的隐喻为基础重新想象技术中的默认设置。

[关键词]批判性设计；人工智能伦理；机器学习；设计思维

[中图分类号]J50[文献标识码]A[文章编号]1008-9675（2024）02-0122-06

被计算成像和传感机器所包围的技术现实正塑造

着我们的日常生活，从量化自我的智能手机到让人类

自由裁量权黯然失色的人工智能，技术思想家亚当·

格林菲尔德（AdamGreenfield）对信息时代的激进技

术进行了紧迫而富有启示性的挖掘。[1]同时，机器感

知与感官环境之间产生出新的纠缠与反馈，人工智能

驱动的远超人类感知经验阈值的机器正在接管我们的

感官意识。

一、机器中的非殖民化愿景

艺术家黑特·史德耶尔（HitoSteyerl）和特雷

弗·帕格伦（TrevorPaglen）在蓬皮杜艺术中心展开

过一次围绕“图像的自主性”对谈，意在探讨机器自

动生成图像的政治性。她提出一个疑问，当图像制作

与图像解读越来越多地在没有人眼的情况下自主发生

时，机器如何观看？

1.机器的观看之道与非殖民化

图1特雷弗·帕格伦，《机器可读的黑特》，2017

在《机器可读的黑特》（图1）这个作品中，帕是跟得上，尤其是因为技术本身越来越难以看懂，它

格伦拍摄了数百张黑特的照片，并对图像集进行了各消失在屏幕之后，变成难以捉摸的代码，所以态度与

种面部识别算法的处理，这些分类法的创建很快就开偏见变得更难质疑。[3]

始变得非常政治化，一种内置于算法中的意识形态，越来越多的学术研究正在追溯数字工具出现之前

正在通过有偏见的技术系统进行编码。[2]而艺术家詹的压迫性结构是如何在技术系统中被迅速复制的。媒

姆斯·布里多（JamesBridle）以“新的观看方法”正介研究学者尼克·坎德里（NickCouldry）和乌利塞

在为我们的数字时代构建约翰·伯格（JohnBerger）斯·梅希亚斯（UlisesMejias）将数据收集的生态系统

的主题——观看的“诡谲”。他认为，新技术从根本称为数据殖民主义（DataColonialism），它结合了历

上改变了我们与图像的关系，但新的观看方法并不总史掠夺性榨取做法与计算机的抽象量化方法。换句话

收稿日期：2023-12-31

作者简介：王帆（1988—），女，江苏南京人，南京艺术学院设计学院讲师，研究方向：批判性设计、数字媒介研究、视觉传达设计理论

与实践。

①基金项目：江苏高校哲学社会科学研究一般项目《批判性思维驱动下的视觉传达设计创新实践与教学研究》（2022SJYB0415）阶

段性成果。

122人工智能伦理视角下机器非殖民化的批判性设计研究

说，数据殖民主义是一种通过数据关系占用和提取社会资

源以获取利润的新兴秩序。[4]认知科学家阿贝巴·比尔汉

(AbebaBirhane)和奥利维亚·格斯特(OliviaGuest)则

追溯了计算科学的历史，她们认为当务之急是承认当

前计算科学生态系统的本质，并将我们从条件内化的

盎格鲁中心主义、欧洲中心主义中解放出来。[5]研究

学者凯特·克劳福德（KateCrawford）将人工智能视

为一种采掘业的地球基础设施，一个庞大的能力矩阵

被调用——资源开采、人力劳动和算法处理的交错链

条贯穿采矿、物流、分销、预测和优化的全球计算网图2蒂姆尼特·格布鲁与乔伊·布拉姆维尼，面部分析数据集