生成式人工智能数据安全刑法保护的挑战及回应.pdfVIP

生成式人工智能数据安全刑法保护的挑战及回应.pdf

中共郑州市委党校学报2025年第2期（总第194期）

JournalofthePartySchoolofCPCZhengzhouMunicipalCommitteeNo.2，2025（Sum，194）法学研究

生成式人工智能数据安全刑法保护的挑战及回应生成式人工智能数据安全刑法保护的挑战及回应

张彦华

（中共郑州市委党校学报编辑部，河南郑州450042）

摘要：生成式人工智能利用其内容生成技术为社会众多领域提供极大的便利。然而，在实

际运行过程中，生成式人工智能在数据获取、数据加工处理以及内部数据存储等环节面临一系列

刑事风险。这些风险对传统刑法的数据安全保护模式产生了很大冲击。鉴于此，刑法应对数据从

结果保护转向全流程保护，精准打击各环节犯罪；通过完善数据分级制度，依数据敏感程度、重要

性等分级，实施差异化保护；明确技术开发者、使用者、数据提供者、平台运营者的数据安全刑事责

任，采用多维度、系统性的应对策略，为数据安全提供强有力的刑法保障，推动生成式人工智能和

大数据技术在法治轨道上稳健发展。

关键词：生成式人工智能；数据安全；刑法数据保护

中图分类号：D924文献标志码：A文章编号：1671-6701（2025）02-0050-07

随着科技的迅猛发展，人工智能已深度融入社的稳定与安全。

会各领域。DeepSeek、ChatGPT、豆包、Kimi等生成一、生成式人工智能的运行机制

式预训练模型凭借卓越的自然语言处理能力，引生成式人工智能是基于机器学习算法，旨在创

发了社会的广泛关注。然而，随着生成式人工智造全新且具备意义的数据内容的技术体系，其核

能应用的不断拓展，一系列法律风险也随之而心要义聚焦于“生成”，所生成的数据需兼具真实

来。生成式人工智能系统对数据的依赖程度极性与可信度。算法在数据生成过程中，不仅要考

高，需要依靠海量训练数据与强大的检索能力，按量数据的分布态势与特征表现，还需兼顾数据所

照契合人类表达习惯的模式生成回复内容，从而处的语义环境和语境关联，从而生成更为真实、实

满足用户需求。但是，这种大规模、高强度的数据用的数据。此外，生成式人工智能的有效运行高

搜索、加工与编制，一定程度上也降低了某些犯罪度依赖海量训练数据以及丰富的计算资源，以确

行为的门槛。当前，已有不法分子利用生成式人保算法能够开展高效学习与精准生成。以ChatGPT

工智能强大的数据处理功能，实施数据盗窃、侵犯为例，它在进行大规模的算法和数据处理训练后，

他人隐私、非法获取公司机密以谋取利益，或生成能够达到与人类流畅交流的程度；同时在许多领

代码实施网络攻击，甚至编造虚假新闻以获取流域都能够发挥作用，如完成计算机数据处理、音视

量、扰乱社会秩序。数据是生成式人工智能的核频脚本制作、文章撰写等任务。这类生成式人工

心要素，如同“生命之源”，数据安全保护至关重智能系统对数据有着极高的依赖性，依靠大量的

要。近年来，数据安全一直是刑法领域的研究热训练数据和极强的检索能力，根据用户输入的关

点，这不仅关系个人隐私和企业权益，更关乎社会键词语，快速生成符合语义逻辑和表达习惯的内

收稿日期：2025-02-26

作者简介：张彦华（1972—），女，河南郑州人，硕士，中共郑州市委党校学报编辑部副教授。

容来满足用户的要求。生成式人工智能需要大量具备强大的自我学习与自我修正能力，在其运行

的训练数据来学习语言模型，技术人员需要对其进过程中不可避免地会超出开发者与使用者的预期，