人工智能大模型发展带来的风险挑战和对策.pdf

大问题研究

二十四个重大问题石

IMPORTANTISSUES

人工智能大模型发展带来的风险挑战和对策

中国科学技术信息研究所人工智能发展研究中心常务副主任徐峰

【摘要】近年来，以预训练大模型为代表的人工智能技术能力快速提升，也加速推动人工智

能技术与科技、经济、社会发展深度融合，成为新一轮科技革命和产业变革的重要驱动力量。

作为一项新兴技术，人工智能的“双刃剑”效应使得技术在快速进步和应用的同时，也引

发了全球对其可能带来各类风险挑战的担忧。特别是随着大模型技术的突破，人工智能可能

带来的风险挑战发生了一些新的变化。因此，需要在充分把握人工智能技术发展规律的基

础上，从政策法规、技术能力、标准规范等多个方面采取针对性的治理之策，深化全球协作，

共同应对风险挑战。

【关键词】人工智能预训练大模型风险挑战治理对策

【中图分类号】TP18【文献标识码】A

【D01】10.16619/ki.rmltxsqy.2024.13.007

经过近70年的发展，人工智能技术发展经历了三次起伏，2022年以来，以ChatGPT、Sora等为代表

的预训练大模型持续取得突破，推动着人工智能技术从感知向认识，从分析判断式向生成式，从专用向

通用进入快速发展的新阶段。在技术取得突破的同时，大模型正以颠覆性、扩散性、渗透性方式引发经

济、社会、文化、军事、安全等各领域体系化变革，在促进产业升级、引领社会发展中发挥着日益重要

的赋能作用。与此同时，技术能力的跃升、技术应用的扩展以及技术治理的介入等多种因素叠加，使得

大模型技术在研发和应用过程中带来的各类风险挑战日益受到关注。

当前大模型技术的发展态势

当前，以ChatGPT为代表的预训练大模型技术取得突破，推动人工智能技术进入新的发展阶段，也

引发了人们对通用人工智能可见未来的乐观预期。作为当前人工智能主流技术路线，人工智能大模型

徐峰，中国科学技术信息研究所人工智能发展研究中心常务副主任、研究员。研究方向为人工智

能发展战略、科技政策与战略研究。主要著作有《基于事实的科技政策研究理论与实践》（合著）、

《2021全球人工智能创新指数报告》（合著）、《关于人工智能伦理风险的若千认识》（论文）等。

2024年第13期

【学术前沿|

十四个重大问题研究

IMPORTANTISSUES

IMPORTANIISSUES

研究、应用与产业化发展正处于引发各领域体系大模型引领行业智能化浪潮加速推进。伴随

化变革的关键时期，成为国际人工智能领域研究着大模型在大数据处理和通用化任务方面能力的

的焦点。从人工智能发展的长周期上看，大模型提升，针对特定应用、特定领域、特定问题的专

技术仍有不断进步的空间，将在相当长时间内持用模型也在蓬勃发展，展现出技术突破与应用拓

续引领全球新一轮人工智能技术革命向纵深发展。展相互叠加、大模型和专用模型相互促进的发展

大模型展现出来的智能水平持续提升。近年态势。ChatGPT等大模型一经推出，便快速被嵌

来，随着OpenAI、Google、Meta等科技巨头持续入到办公软件、搜索引擎等产品中，短期内就让

加大算力投入、提升大模型研发力度，大模型智我们看到了新数字内容生产方式带来的“颠覆性

能水平不断提升。(212022年以来，0penAI相继发创新”。与此同时，大模型技术正在作为新的工

布ChatGPT、Sora和升级的GPT-4o，推动大模型具被实际运用到制造、金融、交通等生产端，乃

技术能力边界持续拓展，实现了知识理解、逻辑至国防军事领域。特别值得关注的是，从医药研

推理、生成速度、多模态实时交互等方面智能水发、系统模拟仿真等应用研究领域到数学、物理

平的代际提升，并初步具备适用于多任务、多场