生成式人工智能的科技安全风险与防范.pdf

2024年1月陕西师范大学学社会科学版）Jan.,2024

第53卷第1期JournalofShaanxiNormalUniversity(PhilosophyandSocialSciences)Edition)Vol.53No.1

工智能与社会发展研究

生成式人工智能的科技

安全风险与防范

孙那，鲍一鸣

（西安交通大学法学院，陕西西安710049）

摘要：生成式人工智能作为科技变革和产业赋能的重要引擎，凭借其强大的自然语言处理能力而具

备广泛的应用前景。生成式人工智能具有以下科技安全风险：数字霸权和科技资源垄断等国家安全风险；

算法黑箱和算法歧视等算法安全风险；人机互动过程人的自主决策意识丧失的科技伦理风险；跨境流动过

程产生的数据和知识产权侵权风险。为构建可信任的生成式人工智能，应共同打造多元共治的生成式人工

智能安全风险治理局面，形成风险识别及防范的逻辑闭环。在国家层面应以系统安全观为战略指引，分阶

段稳步推进生成式人工智能科技安全立法。在行业层面应以场景理论为导向，分情景开展生成式人工智能

的风险识别及其防控。在企业层面应将风险意识植人企业内部文化，探索多模块多层次的风险治理模式，

落实企业合规责任。在用户层面应自觉以权利意识和自主决策为基本遵循。

关键词：生成式人工智能；科技安全；算法监管；风险治理

中图分类号：F49文献标识码：A文章编号：1672-4283（2024)01-0108－14

收稿日期：2023-09-25D0I:10.15983/ki.sxss.2024.0102

基金项目：国家社会科学基金西部项目“知识产权惩罚性赔偿制度的完善及与民法典的衔接”

(20XFX013)

作者简介：孙那，女，内蒙古包头人，法学博士，西安交通大学法学院副教授，博士研究生导师。

习近平指出，中国式现代化是强国建设、民族复兴的康庄大道。1科技是中国式现代化目标实现

的重要推动力。近年来，植根于国家安全治理体系建设的战略驱动着眼于科技创新视域的可持续发

展，科技安全治理问题受到广泛关注。党的十九大将“坚持总体国家安全观”作为新时代坚持和发展

中国特色社会主义的基本方略之一，并要求“提高运用科学技术维护国家安全的能力，不断增强塑造

2。当前，世界百年未有之大变局加速演进，新一轮科技革命和产业变革深入

国家安全态势的能力”[2]。

发展，国际力量对比深刻调整，我国发展面临新的战略机遇，同时历经前所未有的挑战。一方面，以

ChatGPT（ChatGenerativePretrainedTransformer，生成式预训练语言转换器）为代表的生成式人工智能

迅速发展，大语言模型如雨后春笋般涌现，导致产业投资和规模不断膨胀。回顾人工智能的进化史，

第53卷孙那等：生成式人工智能的科技安全风险与防范109

生成式人工智能实现了回归语言模型向多模态模型的转变，具备了“类脑属性”和“类人特征”3-4，

人机关系从简单的“它异关系”逐步演化为“人机耦合”关系，生成式人工智能逐渐从工具属性转变为

更加复杂的类人属性，人机协同将广泛渗透于各种应用场景之中。另一方面，在生成式人工智能的开

发与应用过程中,数据的训练与算法模型的搭建很多在境外完成，在其技术迭代的过程中，不断抓取

全球范围内的海量数据进行学习和训练，可能会引发新的科技安全风险。比如研发者凭借其技术优

势和数据优势，既拥有超大规模资本和用户，又具备超强算法和算力，因此极易形成跨地区跨行业的

科技资源垄断局面，甚至可能对国家科技安全构成威胁。5]这种科技安全的风险与隐患，可能涉及个

人、企业、国家乃至社会公共利益。由于科技创新的双刃属性伴随着技术发展的始终，业界经常关注

生成式人工智能技术对于个人隐私、企业数据权利的侵犯，但是忽略了生成式人工智能在技术进化与

发展过程中为科技安全带来的风险。这种风险不仅涉及社会公共利益的维护，而且影响到未来我国

在国际发展层面的科技竞争力，因此有必要从