技术创新与风险治理之间的权衡——生成式人工智能治理的理念、工具与实践.pdfVIP

中阿科技论坛2024年第6期

技术创新与风险治理之间的权衡

——生成式人工智能治理的理念、工具与实践

曾一涵

（国际关系学院,北京100091）

摘要：生成式人工智能技术在显著提升人们工作效率的同时，也给相关领域带来了包括数据使用、生成内容

滥用、算法滥用等诸多法律风险。因此，完善人工智能风险治理体系，在技术创新与风险治理之间寻求平衡，显

得极有必要。文章认为，基于生成式人工智能的通用性带来的广泛应用及潜在风险，需要对生成式人工智能治理

的理念、工具与实践进行适应性调整。在治理理念方面，秉持包容审慎的治理理念，在保护创新的同时，避免过

度监管；在治理工具方面，通过强调敏捷治理以适应快速变化的技术环境及灵活的框架协调各方；在治理实践方

面，“基于风险的方法”被应用于政策制定，通过全程性的风险识别、评估、参与和监督，维持技术创新与风险

治理的平衡。

关键词：生成式人工智能；人工智能治理；包容审慎；敏捷治理

中图分类号：C01文献标识码：A

当今，生成式人工智能作为一项前沿技术，具有（GAN）和生成式预训练转化器（GPT）两种类型。其

强大的内容生成能力和广泛的应用场景。然而，这种中，生成式对抗网络（GAN）是一种计算机视觉应用

技术的通用性和潜在的不确定性也带来了风险问题。的生成建模人工智能技术，可进行人脸生成、视频预

在统筹发展与安全的基本视角下，对新兴技术的治理测、医学图像分析等。生成式预训练转化器（GPT）。

需在控制与开放之间找到平衡，既要鼓励创新，又要以ChatGPT为例：其技术架构可分为语料数据收集形成

防范可能产生的系统性风险。在生成式人工智能的发海量基础数据；算法对大规模语言模型进行训练；通

展下，为寻求创新与风险之间的平衡，需要形成适配过模型研发赋予GPT模型生成和理解代码的能力[2]。不

的治理理念、工具与实践策略，以期在推动科技进步同于传统人工智能的专用性，即场景与专业的个性化应

的同时，确保各领域秩序的稳定与安全。用，生成式人工智能应用场景广泛，且相较传统的深度

1治理背景：生成式人工智能创新与风险的审视学习更具通用性。而这一特性来自“预训练+精调”的

人工智能的发展实质是模拟人类思维的技术升级。开发范式，将数据、算法和算力进行功能性融合，并在

从符号系统逻辑推理发展到神经网络模型，再到大数应用层面趋近形成一种“模型即服务”的商业模式[3]。

据深度学习，每一次跨越都预示着生产生活上的变革然而，任何一项科技创新都有可能带来风险。通

及相关风险的演化。如今，生成式人工智能为人工智常情况下，人工智能风险审视是基于内外两个层次，

能上下游垂直技术研发提供了具有突破性的基础模即自身系统的脆弱性内生风险与技术应用的衍生风

型，并触发了芯片、数算、分析等各核心技术领域的险，这两个风险层次供给了风险人为利用的空间。基

竞争[1]。于此，具备一定通用性的生成式人工智能在产出其内

生成式人工智能技术普遍基于深度学习算法与神容的过程中会引发一系列未知后果。在本源上，生成

经网络模型，并通过指数级的数据训练以习得符合人式人工智能无法实现自主可控性以摒弃算法内嵌的设

类信息的表达方式和模态规则，以此生成代码、图文、计偏见。其生成环节的主导权归属人类，这使得其在

音视频等内容。生成式人工智能包括生成式对抗网络算法政治偏见与算法霸权的影响下无法成为一种客观

收稿日期：2024-04-17

作者简介：曾一涵（200