原创力文档- 1、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。。
- 2、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
- 4、该文档为VIP文档，如果想要下载，成为VIP会员后，下载免费。
- 5、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传，每下载1次， 网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
88Opinions洞见
AI治理要画“禁区”，更要铺“轨道”
文|薛澜
随着人工智能技术的快速发展，图灵奖得主约书亚·本吉奥于2025模拟真实的声音与面貌。这一事件
人工智能的治理问题也越来越受到年牵头发布的《国际人工智能安全凸显了生成式人工智能被滥用于欺
社会各界的广泛关注。人们逐渐意报告》，将人工智能带来的各种风险诈的巨大风险，传统的语音、视频
识到，人工智能不仅是一项前沿科划分为三大类：验证机制在此类情况下几乎失效。
技，更是一种深刻影响社会结构、1.恶意使用风险，指人为使用从治理角度看，如何在制度层面防
经济体系和全球治理格局的系统性人工智能系统进行伤害、操控、欺范生成式人工智能被恶意利用，亟
力量。因此，如何在推动人工智能诈等非法或不道德行为；须得到更高优先级的回应。
技术创新的同时建立起科学有效的2.技术失灵风险，即人工智能人工智能技术失灵比较典型的
治理机制，已成为当前技术政策研系统在正常使用情况下由于故障或情况就是所谓“幻觉”（hallucination）
究与实践的核心议题。技术失灵带来的不良后果；的产生，即模型生成与客观事实不
3.系统性风险,指人工智能大符，甚至完全虚构的信息内容。这
人工智能的三种潜在风险规模应用后可能引发的广泛性负面在很多对准确性要求很高的应用场
现有的人工智能技术系统由于社会影响。景中容易产生风险。
其复杂性和不可解释性，带来一些人工智能恶意使用的风险目前例如，近年来不少律师事务所
潜在的技术失灵风险。一旦被滥用已经比较常见。2023年，英国某知尝试将人工智能用于法律案件梳理
或用于恶意目的，其危害可能超出名公司遭遇一起令人震惊的深度伪与检索，但结果并不理想。最著名
技术范畴，在关键领域引发局部性造诈骗案件。该公司一位员工应公的案例之一是2023年美国某律师在
损害，甚至演变为系统性风险。因此，司“上级”的邀请参加视频会议，提交诉状中引用了数个根本不存在
理解人工智能风险治理的必要性与并根据对方指令将约2亿港元汇入的“判例”，经查这些判例均由人工
紧迫性，需对其潜在风险进行系统多个账户。事后调查发现，除该员智能编造，导致法院当庭指责该律
分类、剖析成因，并找到相应的解工本人外，所有“参会者”皆为由所严重失职。目前，包括美国律师
决办法。生成式人工智能所合成的虚拟影像，协会在内的多个行业协会已发出预
人工智能风险的分类有很多种，通过深度伪造（Deepfake）技术逼真警，要求在法律实践中使用人工智
中国经济周刊CHINAECONOMICWEEKLY
89
WWW.CEWEEKLY.CN2025.8.15
您可能关注的文档
最近下载
- 乡村振兴、双碳、储能、绿色金融 + 关注
-
实名认证服务提供商
新能源知识科普（本账号发布文档均来源于互联网公开资料，仅用于技术分享交流，相关版权为原作者所有。如果侵犯了您的相关权利，请提出指正，我们将立即删除相关资料）。
文档评论（0）