确保网络数据安全 应对新一代人工智能治理挑战.pdfVIP

特别关注 s pecial Focus 护开放安全，推动发展和安全深度融合。要持续跟 声明、联合国提案等方式进一步增强相关问题的国 踪涉华舆论热点，对涉台、涉港、涉疆、涉藏等问 际认知、认同，构建国际舆论安全防线。要增强风 题，要进一步做好系统的舆论应对预案；针对涉及 险防范意识，建立上下联动、内外联通、安全自主 我国国家主权和安全、根本国家利益的重大问题， 的国际传播矩阵，做大做强自主网络平台，加强微 对西方攻击抹黑我国的行径进行有力的舆论斗争， 博、抖音等国内社交媒体、短视频平台建设，构建 防止舆论扩散。要争取广大发展中国家和友华国家 以网站、移动 App、社交媒体账号为主体的新媒体 的支持，在重大问题上加强政策沟通，以发布联合 传播矩阵，推动中国平台“走出去”。 确保网络数据安全 应对新一代人工智能治理挑战 文│清华大学人工智能国际治理研究院副院长、人工智能治理研究中心主任 梁 正 清华大学人工智能国际治理研究院科研助理 何嘉钰 ChatGPT 的爆火在全球社会引发了一场研发大规 生动且真实，并且具有拟人化的特点。例如，当使用 模语言模型的热潮。以生成式人工智能为代表的新一 者要求其援引某篇名著中的内容时，ChatGPT 可能会 代人工智能不仅革命性地改变了人机交互的形式，提 给一个有理有据，但实际上并不属于该书内容的答案。 升了人机交互的体验效果，还对人工智能产业产生了 因此，随着生成式人工智能技术的持续更新与完善， 深刻影响，加速了人工智能大模型技术的发展与进步， 人类可能会越来越难以识别由大模型生成的具有误导 带来了全新的发展机遇。同时，该技术的快速发展也 性的文本、图像以及视频等虚假内容的传播。 带来了一系列新问题与挑战，包括数据安全、内容安 由于大模型具备很强的数据记忆能力，即便用 全、社会安全甚至国家安全。基于此，各国纷纷开始 户没有直接输入关键信息，大模型仍然可以通过算 推进生成式人工智能的治理进程。鉴于数据是人工智 法抽取出重要数据，从而造成个人隐私信息外泄、 能发展的关键基础，数据安全又是人工智能内生安全 敏感数据外流等隐患。例如，当员工将公司信息以 的重要组成部分，确保网络数据安全是应对新一代人 提问的方式输入 ChatGPT 后（如使用 ChatGPT 将会 工智能治理挑战的关键。第二十届中央国家安全委员 议录屏内容整理成为文字），可能会导致相关内容 会第一次会议也着重强调要提升网络数据人工智能安 进入其学习数据库，从而造成数据泄露的风险。美 全治理水平，确保以新安全格局保障人工智能创新与 国数据分析服务商 Cyberhaven 在其官网上披露了关 应用带来的新发展格局。 于公司员工使用 ChatGPT 会给公司造成何种安全性 风险的研究结果。该厂商分析自 ChatGPT 公开推出 一、生成式人工智能安全问题亟待予 以来使用其产品的各行业公司共计 160 万名员工使 以高度重视 用 ChatGPT 的情况并发现，截至 2023 年 6 月 1 日， 随着大模型技术水平不断提高以及大模型用户数 10.8% 的员工在工作场所使用过 ChatGPT，8.6% 的 量日益增多，其安全性问题也变得越来越严重。尽管 员工自 ChatGPT 推出以来将公司数据粘贴到其中， 与所有人工智能模型一样，生成式人工智能模型也会 至少有