生成式人工智能的治理模式与风险辨析(FBMCLI.A.1350617).docVIP

【法宝引证码】CLI.A.1350617

PAGE/NUMPAGES

下载日期：2023-10-13

生成式人工智能的治理模式与风险辨析

期刊名称：《数字法治》

期刊年份：2023

期号：4

页码：191

基金：本课题得到国家社科基金重大项目“企业数据安全治理的关键机制研究”（项目编号：22ZD147）资助

作者：傅宏宇

作者单位：工信部工业和信息化法治战略与管理重点实验室

摘要：

ChatGPT面世以来，各国对生成式人工智能的治理在模式上经历了从立法复用、分散治理到专门立法、独立监管的认识过程。产业侧也主动探索，推动对生成式人工智能进行更为有效的治理。各方基于大模型的通用特征提出了多方协同的包容性治理措施，为生成式人工智能的针对性治理提供了借鉴参考。生成式人工智能对个人信息、知识产权和技术滥用产生的信息内容安全带来了较为显著的风险，其研发应用应遵守法律规定，但部分制度设置不够明确、与发展需求不适配，需要进一步讨论和调整。

期刊栏目：域外观察

关键词：生成式人工智能基于风险的治理个人信息知识产权内容安全

人工智能技术近年来快速发展，大量基于人工智能算法的应用相继出现在经济和社会生活的各方面。大规模部署的人工智能系统对人类权益、社会关系、国际安全和可持续发展带来的诸多影响推动对人工智能治理的广泛讨论，对人工智能伦理和治理的基本原则逐渐形成共识，而我国率先进行人工智能监管立法，推动治理落地，实践了包括算法评估、算法备案、算法公示等一系列人工智能监管工具，推动并引领治理创新。ChatGPT问世以来，生成式人工智能的内容生成能力不断刷新人类认知，LLM大模型实现了人工智能通用化的理论设想，被认为将对互联网产业乃至人类社会的发展带来重大影响，对此类人工智能的治理受到各国政府的关注，产业界和学术研究机构也参与讨论，对以大模型为基础的生成式人工智能的治理模式以及需要解决的问题也有了初步的思考。本文尝试总结近期各国对ChatGPT等生成式人工智能治理的模式探索，分析对生成式人工智能进行针对性治理需要解决的具体问题，并对生成式人工智能的三类风险进行辨析。

一、生成式人工智能治理模式探析

（一）治理模式从立法复用、分散监管走向专门立法、独立监管

各国对ChatGPT监管方式的探索经历了从立法复用、分散监管走向专门立法、独立监管的过程。在ChatGPT现象出现的初期，各国的回应趋向于将大模型和生成式人工智能治理纳入现有法律框架，利用现有法律而非专门立法进行规制，并复用现有的政府机构行使监管职能。英国在2023年3月29日发布AI监管白皮书，提出安全、保障和稳健，透明和可解释，公平，问责和治理以及可竞争和补救等原则，并且希望监管机构应用现有的法规，如2010年《平等法案》（EqualityAct2010）或者《英国通用数据保护条例》（UKGDPR）对人工智能企业进行治理。英国政府目前计划将监管AI的职责划分给不同的机构，已责成健康与安全部（HealthandSafetyExecutive）、平等和人权委员会（EqualityandHumanRightsCommission）以及竞争和市场管理局（CompetitionandMarketsAuthority）提出有针对具体情况的方法，以适应人工智能在其部门下的实际管理情形。美国白宫科技政策办公室2022年10月4日发布《人工智能权利法案蓝图》（BlueprintforanAIBillofRights）。依托该框架，2023年4月11日，美国商务部下属的国家电信和信息管理局（NTIA）就人工智能系统的问责措施征求公众意见，旨在采取措施来保证“人工智能系统是合法的、有效的、合乎道德的、安全的，并且在其他方面值得信赖”。此外，联邦贸易专员AlvaroBedoy明确表示，生成式人工智能技术已经在美国受到监管，如果一家公司使用人工智能发布欺骗性声明，联邦贸易委员会可以根据《联邦贸易委员会法案》（FederalTradeCommissionAct）第5条关于不公平和欺诈行为的规定对该公司追究责任。[1]2023年4月13日，美国参议院多数党领袖ChuckSchumer表示正在采取措施，推进监管包括生成式人工智能在内的人工智能技术的立法，立法目标重述了美国对人工智能治理的一般性原则，即制定有弹性的法规，以适应人工智能技术的进步，并在安全、问责制和透明度的需求与促进创新之间取得平衡。该立法将侧重于四个旨在确保负责任的人工智能的原则，要求：识别谁训练了算法以及谁是目标受众，披露数据来源，解释它如何得出相应结论，以及透明和严格的道德界限。

随着对ChatGPT的讨论