人工智能面临的安全风险及治理之道.pdfVIP

可持续发展观察

SUSTAINABLEDEVELOPMENTOBSERVATION

人工智能面临的安全风险及治理之道

SECURITYRISKSANDGOVERNANCEOFARTIFICIALINTELLIGENCE

我国应当坚持走安全与发展并重的人工智能治理之路，

始终坚持“以人为本，智能向善”。

｜连世红翟志勇

人工智能（artificialintelligence，AI）开发者社区的核心资源，在HuggingFace

作为新一轮科技革命的核心驱动力，正在深上的下载量超过70万次，衍生模型超670

刻改变全球经济、社会和环境格局。然而，个，远超OpenAI等闭源模型。人工智能发

AI的快速发展也带来了诸多安全风险，如展进入了高性能、低成本、低门槛的新时代。

何实现AI的可持续发展，成为全球关注的然而，在人工智能一路高歌猛进的时

焦点。人工智能的可持续发展不仅关乎技术候，对人工智能安全的监管却日趋宽松。

进步，更关乎人类社会的未来。只有加强人2025年1月23日，美国总统特朗普签署了

工智能治理，确保AI在安全、可靠、可信关于《消除美国在人工智能领域领导地位的

的轨道上运行，才能实现“以人为本，智能障碍》的行政命令，认为拜登时期的行政命

向善”的愿景。本文从AI的安全风险出发，令阻碍了人工智能创新，对人工智能的开发

探讨其可持续发展的可能性与路径。施加了繁重且不必要的政府控制，扼杀了私

营部门的创新能力，因此撤销了拜登的人工

一、现状：AI安全监管日趋宽松智能行政命令，以保持美国在人工智能领域

2025年初，初创企业杭州深度求索公的领先地位。与此同时，国际形势也不容乐

司发布了大语言模型DeepSeek-R1，一经观。此前一直将安全作为会议核心的人工智

推出，便迅速登录各大主流平台，至2月能安全峰会，在第三届巴黎人工智能行动峰

1日，日活跃用户数突破3000万大关。会中将核心悄悄转向了发展，虽然声称要建

DeepSeek凭借其在算法和工程领域的技立包容和可持续的人工智能，但是具体措施

术创新，摆脱了强算力依赖和高成本的困却致力于推动人工智能的发展。

扰，短时间内跻身顶尖大模型行列。此外，事实上，当前人工智能发展面临着极

DeepSeek于1月20日选择开源，通过完为紧迫的安全问题。诺贝尔奖获得者杰弗

全开源代码和训练方法，迅速成为全球AI里·辛顿（GeoffreyHinton）曾警告，未

|

 2025.03 可持续发展经济导刊49

可持续发展观察

SUSTAINABLEDEVELOPMENTOBS