人工智能基础模型安全风险的平台治理.pdfVIP

,

No.52024

pp.322

人工智能基础模型安全风险的平台治理

周辉*

:。

内容提要人工智能基础模型的安全治理是人工智能法治化发展面临的重要命题人工智能基础

,、,

模型平台作为安全治理的主体其发现评估和缓解人工智能系统潜在风险的能力至关重要具

。,

有调整和优化自身模型的作用国内外人工智能基础模型平台积极布局安全风险治理但仍然面

、、、、

临治理架构缺乏权威性和代表性伦理规范过于抽象测试算力不足风险评估困难平台存在

。,、

利己偏好等挑战有必要立足于中国人工智能基础模型平台安全治理的实际完善压力驱动动

、,,

力保障能力强化等机制更好发挥人工智能基础模型平台对安全治理的特有优势和能动作用

支撑人工智能技术及其应用健康有序发展。

:

关键词基础模型基础模型平台人工智能安全人工智能风险人工智能治理

、

一问题的提出

。

人工智能是引领新一轮科技革命和产业变革的战略性技术在以生成式人工智能为代表的新

,(“”)。

一代智能快速发展过程中人工智能基础模型以下简称基础模型的能力也在快速提升

,。

基于其巨量数据训练和自我监督的优势基础模型可以适应和完成广泛的下游任务作为新一代

,、、,

基础设施平台基础模型将在推动社会进步产业升级科技创新等方面发挥重要作用也将带

,。

来新的安全风险并将一些风险进一步通过下游应用向社会不断传导

,,

针对基础模型主要国家和地区在促进其创新发展的同时也在积极探索安全风险的法律

。,,

治理框架早在2018年习近平总书记主持十九届中央政治局第九次集体学习时就指出要

,,