人工智能参与决策过程的挑战与图景.pdfVIP

2023年第3期 政府治理研究 王锋，刘玮.人工智能参与决策过程的挑战与图景[J].求实，2023（3）：18-29. 人工智能参与决策过程的挑战与图景 王锋,刘玮 （中国矿业大学 公共管理学院，江苏徐州221000) 摘要：人工智能越来越多地介入到公共决策中，这给社会治理带来了新的机遇与挑战。人工 智能参与决策使情报工作由小数据思维发展为大数据思维、设计工作由思考主导发展为算法主 导、选择工作由经验主导发展为模拟主导。人工智能在提高决策效率、提升决策理性的同时，造 成决策过程中决策情报的时间、空间与主体间障碍凸显，导致决策设计中的价值理性冲击及决策 选择中的权责体系失衡。要消决策过程中的矛盾和冲突，需要增强决策过程的历时性、共时性 与共通性，坚持价值引导工具、效率服务实质的原则，建构明确的权责体系与权益补救体系，促进 人工智能更好地服务于决策过程。 关键词：公共决策；人工智能；决策主体；决策过程；人机关系；技术决策；大数据思维；算法主导 中图分类号：D63;C934 文献标志码：A 一、文献综述与问题提出 决策是管理的重要环节，公共机构通过促进决策的科学化实现对社会的有效管理与服 务。公共机构可以通过人工智能测量地表附近的温度、湿度、风速和降水量等数据，计算森 林火灾发生的概率，制定火灾防治预案；可以通过大数据及时锁定病毒携带者并排查密切接 触者，优化疫情防控方案等。公共决策由于技术助力变得更为合理和高效，但随着技术渗透 程度的加深，决策过程中逐渐展现出工具理性与价值理性的冲突，这引发了人们对技术决策 合理性的思考 人工智能越来越多地渗透到各个行业，不仅影响着诸如投资、人力资源管理等私营组织 的决策行为，也影响着公共组织的决策行为。关于人工智能介人公共决策的研究呈现出三 个层次。第一个层次是关于人工智能的介入对决策本身产生影响的研究。有学者认为，人 工智能技术的创新和发展得益于海量的数据和信息，它在信息处理方面的强大功能可以辅 收稿日期：2023-02-12 作者简介：王锋（1973一），男，陕西澄城人，博士，中国矿业大学公共管理学院教授、博士生导师， 主要从事行政伦理与智慧治理研究；刘玮（1991一），女，山东莱芜人，中国矿业大学公 共管理学院博士生，主要从事智慧治理研究。 18 工智能参与决策过程的挑战与图景 助人类作出决策；还有学者认为，人工智能介入决策会产生诸多风险，包括算法偏见与歧 视、预测偏差、算法黑箱等问题[2]。第二个层次是关于人工智能是否具备决策主体性的研 究。有学者认为，虽然人工智能已经在广泛参与人类决策，但人工智能大多起着辅助作用， 人类仍然是决策过程中的主要参与者[3154;还有学者认为人工智能表现出越来越强的“自主 性”，而人类逐步主动放弃选择的自由[4]。第三个层次是关于人工智能对决策范式与社会形 态影响的研究。无论人工智能是否已经剥夺了人类决策的自主性，毋庸置疑的是，随着人工 智能由浅到深、由边缘到核心介人到决策过程中，社会越来越依赖数据驱动的预测模型进行 自动决策，这催生出新的大数据决策范式[5]，推动公共决策从封闭决策走向开放决策，从模 糊决策走向精准决策，从经验决策迈向智慧决策。同时，公共决策权的界限变得模糊，社会 关系越来越以算法为基本架构，社会法则也以算法的形式体现，社会形态向算法社会演进 学界普遍意识到大数据、算法、人工智能对决策领域产生的深刻影响，包括正外部性与 负外部性，也意识到人工智能参与决策对人类主体性的挑战以及对社会形态的改变。既有 研究从总体角度、静态视角分析了技术介入决策对整个社会产生的影响，引发人类对技术决 策的深刻思考。但既有研究较少从微观视角分析人工智能是如何影响决策过程的，对动态 视角下决策过程中技术风险产生的过程与机理研究还不够。由于公共决策的产生本身就是 一个动态过程，厘清决策的动态产生过程至关重要。党的二十大报告再次强调了科学决策、 民主决策、依法决策的原则，要求全面落实重大决策程序制度，而在人工智能广泛参与决策 的过程中推动决策结果更为科学、决策程序更为合理需要从决