人工智能系统发展安全风险及防控.pdfVIP

技创新与应用 研究视界 Technology Innovation and Application 2023 23 期 DOI 10.19981/j.CN23-1581/G3.2023.23.024 人工智能系统发展安全风险及防控 张 萌 ， 太极计算机股份有限公司 北京 100 102） 摘 要 人工智能系统和技术给人类带来便利的同时也带来种种风险。该文总结分析人工智能技术和系统可能发生的安全风 险，指出防控人工智能技术和系统安全风险的基本原则，并给出具体的建议。随着人工智能技术和系统在人类社会各个领域的广泛 渗透，人类社会面临的相关风险也会不断增大。各国政府以及相关人员需进一步重视风险，尽早采取措施防控风险。 关键词 人工智能系统；风险；防控；监管体制；风险治理 中图分类号 TP18 文献标志码 A 文章编号 2095-2945 渊2023 冤23-0 104-04 Abstract: Artificial intelligence systems and technologies not only bring convenience to human beings, but also bring a variety of risks. This paper summarizes and analyzes the possible security risks of artificial intelligence technology and system, points out the basic principles of preventing and controlling artificial intelligence technology and system security risk, and gives some concrete suggestions. With the wide penetration of artificial intelligence technology and systems in various fields of human beings, the related risks faced by human society will continue to increase. Governments and relevant personnel should pay more attention to the risk and take measures to prevent and control the risk as soon as possible. Keywords: artificial intelligence system; risk; prevention and control; supervision system; risk governance 自1956 年美国达特茅斯学院学术研讨会召开之 1.2 技术或管理缺陷导致的安全问题 ，如今，人工 ， 后，人工智能成为了一个独立的学术领域 人工智能技术还在不断发展 目前还并没有完全 ， ， 智能已经发展了近70 年。相关技术日臻成熟，未来还 成熟。部分技术缺陷的存在 有可能引起异常现象 给 人工智能技术的自我学习是 会有更多智能程序和机器人成为人们重要的工作助 人类带来安全风险。例如， ， 手，承担危险的或具有重复性的工作。人工智能技术的 完全的黑箱模式 因此