多模态AI大模型的安全风险与综合监管策略——评《AI大模型安全观》.pdf

第３４卷第１０期中国安全科学学报Ｖｏｌ．３４Ｎｏ．１０

２０２４年１０月ＣｈｉｎａＳａｆｅｔｙＳｃｉｅｎｃｅＪｏｕｒｎａｌＯｃｔ．２０２４

多模态ＡＩ大模型的安全风险与综合监管策略

———评《ＡＩ大模型安全观》

当今时代正处于以数字技术为引领，以人工智能为趋势的全新

发展范式中，２０２３年以来，ＣｈａｔＧＰＴ和大模型技术引起全球的关注，

人工智能成为每个人工作和生活中都可以使用的工具。在惊叹人工

智能技术快速发展的同时，也需要更加关注人工智能带来的安全挑

战。随着人工智能技术的快速发展，多模态ＡＩ大模型通过整合视

觉、听觉、语言等多种模态的数据，在金融、医疗、教育等多个领域展

现出巨大潜力。然而，大模型可能带来的安全风险也不容忽视，这些

风险包括但不限于数据泄露、算法偏见、对抗性攻击等。因此，识别

多模态ＡＩ大模型的安全风险，并提出相应的综合监管策略，对探索

大模型未来发展趋势，促进ＡＩ技术的健康发展至关重要。

笔者在开展南京工业大学高等教育发展规划课题（ＨＥＤ２０２４Ｃ－

０４）的研究过程中，认真阅读了《ＡＩ大模型安全观》一书，该书主要分

析了ＣｈａｔＧＰＴ在内容安全、网络安全、隐私安全、版权合理和伦理道

德等方面带来的新挑战、新风险，并从人工智能技术监管角度给出一

些策略和建议，让读者能更加客观、全面地认识ＣｈａｔＧＰＴ和大模型，

书名：ＡＩ大模型安全观

以及它们带来的安全方面的机遇和挑战。全书共分为８章，第１章作者：秘蓉新，翟尤

介绍了ＣｈａｔＧＰＴ底层大模型技术的基本特征和技术创新点以及未来出版社：人民邮电出版社

科技创新的风口，并分析了个人如何把握这次人工智能的发展浪潮。ＩＳＢＮ：９７８７１１５６２２７６１

出版时间：２０２３年７月

－

第２章介绍了多模态大模型ＣｈａｔＧＰＴ４给人类生活带来的机遇和挑

定价：６９８元

战，并指出要客观看待它的价值。第３章通过梳理大模型的发展历

程，同时结合当前业内关注的焦点，重点分析了大模型创作过程中大众普遍关心的问题。第４章分析了人工智

能时代的安全挑战，指出数字技术是一把双刃剑，一方面提升了人们工作和生活的质量，另一方面，网络攻击带

来的破坏将引发新的安全挑战。第５章重点分析了大模型带来的安全挑战，并指出大型模型有时可能会产生

不准确或不真实的信息。第６章分析了ＣｈａｔＧＰＴ在网络安全、个人隐私保护、版权保护、伦理风险等领域暴露

的诸多问题和挑战，为后续安全人员和监管部门制定相应的政策措施提供了实践依据。第７章指出技术本身

是中立的，不具备固有的道德属性，如何把ＣｈａｔＧＰＴ应用到网络安全防护，有效帮助网络防护人员提升工作效

率，发现潜在的安全风险，提升安全能力。第８章从整个行业的角度来分析ＣｈａｔＧＰＴ对经济社会的影响，并帮

助大家更加客观深入地理解这轮人工智能发展浪潮的关键点。该书为学者提供了一个全面的视角来审视多模

态ＡＩ大模型的安全风险和监管策略。不仅分析了问题的本质，还提出了切实可行的解决方案，对于政策制定

者、企业决策者以及研究人员都具有重要的参考价值。

作者指出，目前多模态ＡＩ大模型的应用场景主要包括：在金融领域，ＡＩ大模型被广泛应用于风险评估、欺

诈检测、智能投顾等。通过分析大量的交易数据和用户行为，大模型能够识别潜在的欺诈行为，提高交易安全

性。同时，大模型还能够为投资者提供个性化的投资建议，优化投资组合。在医疗行业，ＡＩ大模型的应用主要

集中在疾病诊断、治疗方案制定、医疗影像分析等方面。通过大量的医疗记录和数据分析，大模型能够帮助医

生进行更准确的疾病诊断，制定更有效的治疗方案。在教育领域，ＡＩ大模型可以提供个性化的学习体验，通过

分析学生的学习习惯和能力，为学生