原创力文档- 1、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。。
- 2、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
- 4、该文档为VIP文档，如果想要下载，成为VIP会员后，下载免费。
- 5、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传，每下载1次， 网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
计算机研究与发展DOI：10.7544/issn1000-1239.q
JournalofComputerResearchandDevelopment61（5）：1085−1093，2024
亦正亦邪大模型——大模型与安全专题导读
2022年底以来，以ChatGPT为代表的大模型飞速发展，正在成为驱动新质生产力发展的新动能、人类探索
未知的新工具.在显著提升人工智能(artificialintelligence,AI)模型通用理解和生成能力的同时，也带来了前所
未有的安全风险.本专题聚焦“大模型与安全”主题，汇集了产学两界专家的优秀成果，旨在为读者提供一个了
解大模型安全风险、研究现状和最新工作的窗口.
1大模型的能力与风险
生成式大模型因其强大的智能能力和巨大的应用潜力吸引了众多研究者和企业的关注.从智能能力的角
度来看，研究人员观测到：当训练数据和参数规模持续增长，超过某个阈值的时候，模型能力会突然跃升，出现
[1][2]
“智能涌现”的拐点.OpenAI的技术报告显示，GPT-4在众多专业和学术考试中均展现出了人类级别的表
现.2024年Sora的发布，更将AI的多媒体生成能力推向了新的高度.《自然》(Nature)的一则NewsFeature文
[3]①
章援引AI21Lab设计的150万人的对抗性图灵测试结果，证明用户已无法区分与之对话的是人类还是AI，
并因此主张大模型在形式上已通过了图灵测试.尽管当前的大模型还没有实现通用人工智能(artificialgeneral
intelligence,AGI)，且关于图灵测试是否合理以及AGI的最终实现方案和具体时间点尚有许多争议，各界却基
本认同，人类正在沿着正确的方向推进AGI的发展.
从应用角度看，大模型正在快速成为类似于数字化时代“数据库”这样的智能化时代的通用底座.一方面，
各类定制化的GPTs蓬勃发展，新一代智能应用（AIAPP）方兴未艾，大模型赋能的智能体（agent）的应用范
围不断扩大，多智能体协同的研究百花齐放，对数字网络空间的应用形态及其演变都将产生极为深远的影响；
另一方面，大模型的应用边界也在快速从数字空间向物理空间扩展，具备了智能化的外部工具使用、自动控制
②
能力，并通过与机器人的结合，展现了物理世界的具身智能潜力.
需要强调的是，大模型本身也正在从人类可利用的工具客体向认识、改造自然社会的主体转变.由于模型
[4][5]
拥有丰富的创造性潜力，大模型已经被广泛应用到了数学定理证明、化学研究等科学探索中；在社会层面，
[6]
《科学》(Science)的一则PolicyForum文章中也提出：AI可以无需人类指导地独立运营公司，已成为具有权
利和义务的法律主体，并呼吁为这一新的“物种”制定相应的法律框架.推而广之，大模型在社会生产和生活各
个领域的“主体化”，都将在技
文档评论（0）