ChatGPT类生成式人工智能产品提供者之刑事责任.pdf

2024年第2期法治研究

ChatGPT类生成式人工智能产品

提供者之刑事责任

刘 杰**

  摘 要：ChatGPT类生成式人工智能产品数据处理不可控，提供者刑事责任不明确，将会引

发刑事治理难题。在产品投入流通时，如果ChatGPT类生成式人工智能产品符合国家标准、行业标

准，并不存在当前科学技术水平能够发现的缺陷，一般不宜追究产品提供者的刑事责任；在产品投入

流通后，产品提供者应承担适度的安全管理义务。违反安全管理义务，有可能承担刑事责任。有限度

追究产品提供者的刑事责任，既符合网络领域积极主义刑法观的趋势，也有利于实现鼓励科技创新

和防范产品风险之间的平衡，还符合社会公众的期待。提倡“全面性考察”方案，用以限制产品提供

者成立帮助信息网络犯罪活动罪的范围。在具体贯彻“全面性考察”方案时，可以“超过半数规则”

作为产品提供者主观“明知”的认定标准。

  关键词：ChatGPT 生成式人工智能 数据安全 安全管理义务 刑事责任

一、问题缘起：ChatGPT类生成式人工智能产品引发的刑事治理挑战

凭借高度“拟人化”“智能化”的表现，由美国OpenAI公司研发的生成式人工智能模型ChatGPT一

经面世，便迅速引发社会广泛关注。与此同时，我国诸多科技公司也相继确认正在研发ChatGPT类生成式

人工智能产品。该类人工智能技术的突飞猛进，将会给各个行业、领域带来深刻变革。但利之所在弊亦随

①

之，人工智能产品也存在安全性和可靠性等问题。例如，意大利便曾因发生一起数据泄露事件，宣布暂时

②

禁用ChatGPT。随后，马斯克及全球千名科技人士联名呼吁至少暂停半年对更强大人工智能系统的开发

③

和训练。ChatGPT类生成式人工智能模型的出现，将会引发一系列新的刑事法律风险。

（一）数据处理不可控，易造成数据安全隐患

其一，数据来源问题。在产品研发阶段，ChatGPT类生成式人工智能产品的整体架构分为语料体系、

④

预训练算法与模型、微调算法与模型。其中，语料体系的参数量，是决定产品最终输出“答案”的重要因

素之一。以ChatGPT各代模型为例，OpenAI于2018年6月推出的初代GPT参数量为1.17亿；2019年2

* 本文系上海市哲学社会科学规划课题“轻罪立法研究”（项目编号：2022ZFX004）、华东政法大学优秀博士学位论文培育项目“漏

罪的刑罚问题研究”（项目编号：2023-1-018）阶段性成果。

** 作者简介：刘杰，华东政法大学刑事法学院博士研究生。

① 参见周维明：《对大数据和人工智能的冷思考》，载《民主与法制时报》2017年10月19日，第6版。

② 参见裘雯涵：《涉嫌数据泄露，意大利暂停ChatGPT》，载《解放日报》2023年4月5日，第6版。

③ 参见张渺：《马斯克等全球千名科技人士联名呼吁暂停更强大的AI开发》，载《中国青年报》2023年3月3日，第8版。

④ 参见钱力、刘熠等：《ChatGPT的技术基础分析》，载《数据分析与知识发现》2023年第3期。

61

2024年第2期ChatGPT类生成式人工智能产品提供者之刑事责任法治研究

月推出的GPT-2参数量为15亿；而2020年5月升级的GPT-3参数量则为1750亿；此后，OpenAI未再

⑤

公布后续版本的参数量。相较之下，国内如阿里公司的“通义M6”、腾讯公司的“混云”参数量均达到万

⑥

亿级别。在监管尚不完备的情况下，ChatGPT类生成式人工智能产品语料体系的参数可能存在违规问题。

例如，语料体系中的参数是否均来源于公开渠道？是否侵犯他人的隐私、商业秘密？是否涉及国家秘密或

者情报？即使来源于公开渠道，是否又可能存在虚假信息的问题？