人工智能算法辅助行政决策的法治风险及其化解路径.pdfVIP

2023年3月 学习论坛 May 2023 第3期 （总第447期） TRIBUNE OF STUDY No. 2 人工智能算法辅助行政决策的 法治风险及其化解路径 杜昕怡1，肖泽晟2 （ 1.浙江大学光华法学院，浙江杭州310008 ；2,南京大学法学院 ，江苏南京210023） ［摘要］人工智能算法辅助行政决策契合行政决策体制改革方向，能够应用于行政决策的全过 程和多领域 。其意义在于通过辅助公众参与、识别公众需求 、自动收集数据、深度学习自主推导、评 估风险预测行为、全面收集和深度分析大数据 ，以提升行政决策的民主性、科学性 。但人工智能算 法辅助行政决策可能存在法治风险:算法隐匿和算法偏差可能危及利害关系人的实体权利 ，包括利 害关系人的真实权益关切、隐私保护和平等对待要求;算法代表和算法至上可能危及利害关系人的 程序权利 ，包括不符合正当程序原则的基本要求、不利于利害关系人的真实意愿表达、不利于利害 关系人的真实程序性参与 ；当出现算法决策错误时责任承担主体不明确 。这在一定程度上违背了 行政法治原理中的良法善治要求 。因此，应当围绕人工智能算法问题,从人工智能算法自身、行政 机关、利害关系人三个方向寻找法治出路，完善人工智能算法的合法化设计，加强行政机关对人工 智能算法的合法性、伦理性和合规性审查，完善算法公开制度，健全算法辅助决策的行政责任制度， 从而契合行政法治原理的要求。 ［关键词］人工智能;算法;行政决策;依法行政 ［中图分类号］D922.1 ［文献标识码 ］A ［文章编号］ 1003 -7608 （2023 ）03 -0122-08 一、问题的提出 体制变革的基本目标。 行政决策是政府依据既定政策和法律 ，面对 在这一目标的指引下，如何完善行政决策体 要解决的问题，收集信息、拟定方案 、作出决定的 制成为热点议题⑵，人工智能算法在行政决策中 行为过程 。我国的行政决策模式几经嫗变 ，已由 的应用逐渐成为现实 。人工智能算法是一系列计 以权力集中、运作封闭和内部协调为特征的传统 算机指令组成的程序⑷，其相比一般算法的特殊 决策模式转为现代决策模式，更加注重决策过程 之处在于,人工智能算法能够模仿人类在解决问 的民主参与和专家参与，增强决策的开放性、合法 题时所表现出来的智能行为，进而推动特定问题 性和科学性⑷ 。党的十九大强调了科学决策 、民 的解决⑷ 。行政决策和人工智能算法在概念上具 主决策和依法决策的重要性，推进重大行政决策 有内在亲缘性，但是囿于 “弱人工智能”发展阶段 的科学化、民主化和法治化更成为推进行政决策 的桎梏、算法设计的种种问题以及责任承担能力 ［收稿日期］2022-10-01 ［作者简介］1 •杜昕怡（1994一 ），女，湖南淑浦人，浙江大学光华法学院博士研究生;2.肖泽晟（1969 —）,男，湖南隆回人，南京大学 法学院教授、博士生导师。 ・122・ 人工智能算法辅助行政决策的法治风险及其化解路径 的欠缺，人工智能算法嵌入行政决策时只能处于 能算法辅助行政决策的法治风险上，赵友华、蔡振 辅助性地位国 。但不论人工智能算法的发展阶段 华认为，其容易产生歧视、算法专权问题3;陈飓、 及其在行政决策中的地位如何，行政法治原理总 裴亚楠M 、张恩典网认为,其侵害了行政法治原 是行政决策智能化的边界