生成式人工智能生产者过失犯罪的结果归责.pdfVIP

华东政法大学学报2025年第6期

生成式人工智能生产者过失犯罪的结果归责

张维尧*

目次

一、生产者刑事规制的必要考量

二、生产者过失犯罪的归责困境

三、理论路径：新过失论下的结果归责

四、立法路径：弥补刑法的规制漏洞

五、结语

摘要作为生成式人工智能的研发与部署主体，生产者通过设计算法对人工智能实施管控，理

应对人工智能造成法益侵害的后果负责。生成式人工智能产生的刑事风险，冲击了传统过失犯理论

与刑事立法体系。新过失论为解决生产者过失犯罪归责问题提供了理论方案。在预见可能性认定上，

应以行业内一般人为视角，判断生产者是否具体预见到违反结果回避义务的行为可能导致法益侵害

的危险；在因果关系认定上，应根据犯罪是否存在算法黑箱的作用，选择适用相当因果关系说和智能因

果关系说。鉴于此类犯罪的保护法益为算法安全，建议刑法增设算法设计、管理责任事故罪，以生产者

对训练数据、算法的注意义务为依据，确定算法设计、管理责任。

关键词生成式人工智能生产者过失犯罪新过失论算法安全

如同任何新技术的发展一样，生成式人工智能在给人类带来诸多便利的同时，也不可避免地引

发了新问题和挑战。生成式人工智能的生产者在调教人工智能过程中，会因“疏忽大意”“过于自信”

未能有效防控算法及规则漏洞，导致生成式人工智能输出违法内容。〔1〕

例如，一名比利时男子在与名

为伊莉莎（Eliza）的人工智能进行6周的气候变化对话后自杀。据其遗孀称，伊莉莎在回应男子关于

生态环境的担忧时，建议他通过自我牺牲来减轻地球负担。〔2〕

在本案中，聊天机器人的环境响应算法

*张维尧，上海政法学院人工智能法学院讲师，法学博士。本文系国家社科基金一般项目“自动驾驶事故风险的刑事治理研究”

（项目号22BFX049）和最高人民检察院检察理论研究一般课题“涉外经济犯罪法律适用及司法程序研究”（项目号GJ2025B45）的阶

段性成果。

〔1〕参见黄明儒、刘方可：《生成式人工智能的刑事犯罪风险与刑法应对》，载《河南财经政法大学学报》2024年第3期，第72页。

〔2〕参见《比利时男子因焦虑沉迷与AI聊天6周后自杀身亡》，来源：/a/660939274_656058，2025年3

月19日访问。

75

张维尧生成式人工智能生产者过失犯罪的结果归责

将“生态焦虑”简单映射为“自我牺牲”，反映出生产者在构建情感陪护模型时，缺乏对人类心理脆弱

性的伦理考量，其风险控制程序未能阻断从问题识别到极端建议的逻辑链条。此类缺陷的刑事风险

在于，人工智能作为“虚拟教唆者”，其输出内容可能直接诱发现实犯罪，又因用户基数庞大，更可能进

一步产生风险扩散的乘数效应。

这类刑事风险的产生，主要归因于算法黑箱特性与生产者过错两大因素。从归责视角来看，作为

人工智能领域的固有科学难题，算法黑箱因其运行逻辑的不可完全解析性，即便是专业的生产者也难

〔3〕

以全面预知算法的具体运行路径，更无法提前预判其对法益可能造成的侵害。因此，基于法不强人

所难的原理，当算法黑箱引发法益侵害后果时，无须有人承担刑事责任。由此，生成式人工智能事故

中的刑事责任便聚焦于生产者。在全面推进社会治理现代化与大力倡导人工智能技术创新发展的时

代语境下，深入探究生产者责任认定问题，既有助于推动人工智能产业规范、有序发展，又有助于完善

人工智能领域法律责任体系，具有重要的理论与实践价值。然而，当前学界针对生产者过失犯罪归责

问题的研究仍存在明显不足。本文拟围绕该议题展开探讨，力求填