ChatGPT生成式AI的算法安全风险及治理路径研究.pdfVIP

Communication Information Technology No.4.2023通信与信息技术2023年第4期(总第264期) ChatGPT生成式AI的算法安全风险及治理路径研究 高俊 安徽大学法学院，安徽合肥230039 摘 要：针对生成式AI发展要求，基于算法固有的“黑箱”问题，分析了当前生成式AI算法安全所面临的风险，并 从健全算法透明体系、加强算法伦理建设、完善算法问责机制等三个方面提出了加强算法安全管理的对策建议。 关键词：ChatGPT;生成式AI;算法安全风险；法律规制 中图分类号：TP18;F49 文献标识码：A 于此，从大数据时代背景下“算法黑箱”出发，聚焦于以 1 问题的提出 ChatGPT为代表的生成式AI算法安全风险，并提出构建适应 2023年4月中国国家互联网信息办公室发布的《生成式我国生成式AI算法安全的法律规制路径，以期推进生成式 人工智能服务管理办法(征求意见稿)》指出，生成式AIAI的革新与应用。 是“指基于算法、模型、规则生成文本、图片、声音、视频、 2 生成式Al的算法安全挑战 代码等内容的技术”。ChatGPT是当前生成式AI发展的前沿 应用，其聚焦于数据、算法和算力之间的统筹协调，代表了 作为当前通用的算法技术，“算法黑箱”是指主体无法完 弱人工智能向强人工智能的转变，实现了人工智能在内容生 全理解人工智能算法决策的过程，亦无法预测算法决策的结 成上的互动性、通用性和创造性凹。与原有的弱人工智能相 果[3]。在大数据时代背景下，伴随着算力的不断发展，科技 比，生成式AI属于具有颠覆性的强人工智能，其并非局限于 公司平台利用大数据集合和智能算法技术驱动生成式AI的 技术工具属性上的提升，更体现在法律伦理等社会领域的显 迭代更新，但固有的“算法黑箱”问题往往引发一系列生成式 著影响。一方面，以ChatGPT为代表的生成式AI在自然语言AI算法安全风险。 交互处理中具有技术优势，其应用场景广泛且运作效率极高， 2.1 生成式AI的算法透明风险 能够有效促进社会经济的发展；另一方面，生成式AI的突破 算法透明是指算法服务提供者应当公开披露其算法的 性成果也引发了诸多危机，从技术垄断、知识产权归属、数 基本原理、逻辑、操作规则、运作过程及决策方式。生成式 据信息安全等法律问题到人机关系重构、人类主体性危机等 AI的算法透明风险主要体现于生成式AI服务提供者在生成 社会伦理风险。当前学术界已关注到以ChatGPT为代表的生式AI产品的开发与使用过程中无法对其算法运行进行有效 成式AI所潜藏风险并提出对应的治理方案，其主要集中在数 的解释与公开。生成式AI算法的透明度风险核心在于其算法 据安全、知识产权侵权、公共管理风险等领域2]。 可解释性的缺位。理论上，算法可解释性是主体与算法模型 算法在理论上具有技术中立性，其本身无法做出社会学 之间的关键接口4。一方面，算法可解释性应当实现开发者 意义上的伦理道德判断，算法技术的内涵与价值往往反映在 对人工智能模型算法在运作过程中的全面监管并对算法瑕 特定领域或特定事物的运作之中。算法作为生成式AI发展运 疵进行针对性修改；另一方面，算法可解释性在预测人工智 作的关键要素之一，其具有明显的双重性影响，应予以必要 能模型运作结果上应有积极作用，这将极大程度提高人工智 的规制研究。一方面，算法具有促进生成式AI创新演进的基 能模型的可行性和安全性[9。从实践来看，生成式AI的对话 础性作用，伴随着算法技术的革新，它可以提高产品服务的 模型在技术系统内部的运作方式并不透明，以大语言模型为 效率并助力于应用的强智能性与创造性；另一方面，算法亦 核心的ChatGPT在数据处理及决策过程亦处于“黑箱”状态6。 存在阻碍生成式AI稳定发展的风险，其固有的“算法黑箱” 诚然，近年来可解释人工智