人工智能时代的算法黑箱与信任重建.pdfVIP

大问题研究

二十四个重大问题石

IMPORTANTISSUES

人工智能时代的算法黑箱与信任重建

对外经济贸易大学国际关系学院教授董青岭

【摘要】信任是人机互动和人际互动的基石。然而，由于算法黑箱的不透明性和不可解释性，

人工智能系统及其服务在赋权和便利一部分人的同时，算法滥用、算法误用和算法垄断也

在侵蚀、排斥和边缘化另外一部分人的利益。就此而言，算法即重构、程序即政治，在智

能化环境中，信任被破坏和侵蚀不仅存在于人机互动之间，人与人之间的传统信任关系也

因在线匿名和算法驱动而陷入衰退。正是考虑到人工智能带来的种种社会信任挑战，以算

法规制为核心的人工智能治理首先应着眼于以人为本构建可信赖人工智能生态体系，并基

于技术秉性和道德法律框架重建人机信任关系和人际信任关系。

【关键词】算法黑箱人机信任人际信任计算政治

【中图分类号】TP301.6【文献标识码】A

【D01]】10.16619/ki.rmltxsqy.2024.16.008

长期以来，信任一直是人类互动的基石，是社会、经济和政府赖以建立的基础。伴随着人工智能

技术的日臻成熟和应用普及，现实世界事实上已经演变成为一个被各种算法所包裹的社会计算空间。在

这样一个计算空间中，人人皆为算法使用者，同时又皆为算法对象，不停地被各种算法所影响和操控。

作为一种新质生产力、新的权力类型和新的认知工具，人工智能正逐步渗入个人感知、商业交易甚至政

府决策之中，由此导致的算法无处不在已然成为当下智能社会建构的重要技术特征。然而，在现实生活

中，算法从来就不是客观中立的，至少不是像人们所想象的那样“公正无私”，算法在赋权和便利一部

分人的同时，算法滥用、算法误用和算法垄断也在排斥和边缘化另外一部分人，并使之日趋沦落为“算

法难民”或“人工智能的奴役对象”。由此可见，算法在改善治理、提升效率和创新服务的同时，也

带来了算法歧视、技术霸凌和社会信任侵蚀等问题。

董青岭，对外经济贸易大学国际关系学院教授、博导，国家安全计算实验室（CLNS）主任。研究

方向为大数据海外舆情监测与冲突预警、国际关系自然语言处理与社会情感挖掘、机器学习与国际关系

智能分析。主要著作有《大数据与机器学习：复杂社会的政治分析》《复合建构主义：进化冲突与进化

合作》等。

1学术前沿|2024年第16期

十四个重大问题研究

IMPORTANTISSUES

IMPORTANISSUES

所提供的服务意味着人们相信数据的真实性和可

智能系统及其服务的信任危机：从不信任靠性，而如果数据本身是残缺或错误的，那么由

到过度信任算法逻辑所驱动的人工智能应用就会给用户带

来焦虑、怀疑和不安，进而破坏人机之间的信任

毫无疑问，智能技术的进步及其应用正在和交互。

给人类社会带来前所未有的改变。由数据和算法其次，人工智能算法黑箱的不透明性使得社

所驱动的人工智能究竟是促进了社会信任还是使会信任问题正变得越来越复杂。如果算法流程和

算法工作原理是不透明的，那么人机之间的交互

得社会信任变得更为脆弱？2023年12月22日，美

国华盛顿邮报与乔治·梅森大学政府与政策学院就会变得异常脆弱而不可信。因为用户如果不知

联合发布了一项关于民众对社交媒体信任度的调道数据是如何被收集、使用和处理的，那么他们

查报告，结果显示：近四分之三的美国人不信任就无从确定涉及自身利益和隐私的数据会不会被

Facebook、WhatsApp、Instagram、YouTube等平误用、滥用或被泄露给第三方，基于人工智能算

台；约70%的美国人表示，他们怀疑自己