生成式人工智能风险治理亟待“伦理-法律”综合框架.pdfVIP

进展 FORWARD 热点 HOT 生成式人工智能风险治理亟待 “伦理 - 法律”综合框架 ■文 / 陈吉栋 何 丽 随着应用场景的不断扩展，A I G C 已经导致或将潜在导致 一 系 列 风 险。 设 计 一 个 A I G C 综 合 监 管 框 架 时 间 紧 迫 且 任 重 道远。 penAI 基 于 Transformer 架 构 开 发 的 自 就模型而言，模型的涌现能力直接导致鲁棒性欠 O然语言处理模型 ChatGPT 所展现的能力， 缺，进而导致算法的不确定性与不可解释，从而 引发人们对生成式人工智能（GAI）的关注。 影响生成内容的真实性和可靠性。 与决策式 / 分析式人工智能（Discriminant/ 从应用侧看，部分风险是用户对 AIGC 的不 Analytical AI）不同，GAI 在根据既有数据 当使用所导致的。一方面，存在用户无意或有心 集执行任务之外，还能通过学习数据中的联合 利用 AIGC 制造假新闻或散播谣言的风险，更有 概率分布，创造出全新的内容，在音乐和艺术 用户将 AIGC 作为宣传工具达成意识形态渗透的 创作、自然语言生成、图像合成等方面已取得 目的。另一方面，用户跨越正常使用边界造成各 不俗成绩。然而，随着应用场景的不断扩展， 类乱象。例如，在科研领域，部分研究者直接利 人工智能生成内容（AIGC）已经导致或将潜在 用 ChatGPT 复制学术文献或学术观点生成新文本 导致一系列风险。当下，针对风险开展治理， 而不提供出处或考证来源，造成学术剽窃与造假， 设计一个涵盖法律与伦理的综合监管体系成为 破坏科研诚信。 较为主流的选择，但这同时也是一项任重道远 的工作。 AIGC 风险的观察维度 当我们试图观察这些风险并选择治理风险的 AIGC 风险的存在状态 手段时，面临的首要难题是缺乏风险认识的基本 大致上，我们可以从技术与应用两个不同的 工具。在寻常的认知中，所谓“风险”意味着按 方面来理解 AIGC 潜在的风险。 照某种概率发生的不利后果或者损害，因而是可 从技术方面看，部分风险是由 AIGC 本身的 以预测和计算的，属于人们进行选择和决定之际 技术限制所导致的。AIGC 的基本过程通常涉及 存在的问题。在这个意义上，风险虽与“不确定性” 数据收集、数据预处理、大模型训练、内容生成 （uncertainty）相关，但风险又并非完全的不 等主要步骤。从整体来看，导致 AIGC 潜在风险 确定性。因为不确定性是指反映出事物及其发展 的原因与数据和算法模型直接相关。就数据而言， 过程充满变数、难以把握的特性。不确定性无处 数据的采集、存储、使用各环节均存在一定的风 不在，但有些概率是可预测的，由此将不确定性 险。例如，采集的数据缺乏多样性导致系统性偏 区分为可预测的不确定性和完全的不确定性。与 见，数据存储缺乏安全性导致用户隐私泄露，数 技术相对应的是技术不确定性，指与技术风险相 据缺乏真实性导致错误或虚假信息扩散与传播。 关的技术未来状态的不稳定与无法确定。不确定 8 张江科技评论 2023.2 性可以导向好的结果，也可以导向不好的结果， 务的组织和个人，承担该产品生成内容生产者的 不好的结果我们称为风险。使用技术不确定性来 责任。但是，该办法