《网络安全技术 向未成年人提供生成式人工智能服务安全指引（征求意见稿）》编制说明.pdf

网络安全技术向未成年人提供生

成式人工智能服务安全指引

编制说明

一、目的意义

随着互联网的普及和移动设备的广泛使用，未成年人更

容易接触到网络世界。然而，生成式人工智能虽然能够提供

个性化的学习资源和娱乐体验，但由于未成年人的认知能力

和自我保护意识尚未成熟，也可能引发诸如诱导沉迷、接触

到不良内容等问题。《向未成年人提供生成式人工智能服务

安全指引》（以下简称“指引”）基于当前技术进步与社会

需求，针对生成式人工智能服务在教育、娱乐等领域的广泛

应用及其对未成年人使用安全与心理健康的影响进行规范

指导。

《指引》旨在为生成式人工智能服务提供者确立一套全

面的安全合规原则，确保相关产品和服务最大限度降低对未

成年人所造成的任何形式的伤害。本指引通过指导企业在设

计、开发和运营阶段识别潜在的权益侵犯、信息泄露、不当

内容传播等风险点，并鼓励企业建立有效的未成年人保护机

制，提供健康有益的内容，引导未成年人正确使用生成式人

工智能，从而促进未成年人的健康成长。此外，指引还希望

通过统一的行为准则，增进公众对相关技术的信任和支持，

促使家庭、学校、社会和企业共同努力，为未成年人创造一

个更加安全、健康、积极的成长环境。为了进一步强化这一

指引的作用，我们强调其在促进行业健康发展方面的导向性

作用，通过明确规范和标准，鼓励技术创新与道德责任并重，

促进企业间的合作与交流，共同构建健康的生态系统，推动

行业朝着更加负责任和可持续的方向前进。

二、任务来源

生成式人工智能技术在大模型、多模态与低门槛API的

三重驱动下，已具备实时对话、内容创作、情感陪伴等能力，

并在未成年人学习辅导、社交娱乐、心理健康等场景快速渗

透。然而，未成年人身心尚未成熟，对虚假信息、诱导性内

容、隐私泄露及沉迷风险的识别与抵御能力显著弱于成年人。

例如“未成年人与AI交互时诱导自杀”“聊天软件存在未

成年人与虚拟角色互动生成低俗内容等”等案例，使AI成

为未成年人的危险玩伴，凸显向未成年人提供生成式人工

智能服务安全治理的紧迫性。

当前，国内外未成年人网络保护法规及标准体系在生成

式人工智能服务方面仍有所缺失。例如欧盟《AI法案》虽将

未成年人列为高风险群体，但未细化到AIGC交互场景。我

国现行法规主要基于《中华人民共和国未成年人保护法》《未

成年人网络保护条例》等法律法规提出保护要求，但在生成

式人工智能技术应用的具体治理路径方面，尚缺乏行之有效

的保护措施，不利于未成年人的人工智能素养培育和发展，

急需平衡技术创新、安全治理与发展的技术指引。

因此，本标准由中国网络空间安全协会人工智能安全治

理专业委员会立项，在网信办指导下，坚持以社会主义核心

价值观为引领，坚持最有利于未成年人的原则，遵循科技和

道德伦理，坚持保护与发展并重，填补我国针对未成年人生

成式人工智能服务的安全标准规范，并与《中华人民共和国

未成年人保护法》《未成年人网络保护条例》等形成法规配

套，为产业合规提供可操作的技术路线图，保障未成年人在

网络空间中的安全，引导行业健康有序地发展。

三、编制过程

1）2024年10月8日，指引研制正式启动会。协会组

织专班进行基础调研和专家座谈。邀请生成式人工智能企业、

未成年人保护研究组织、科研机构、法学研究机构，围绕未

成年人保护和生成式人工智能安全进行充分交流。讨论了技

术研发、应用服务的现状、趋势和安全风险等多项内容，确

定了研编《向未成年人提供生成式人工智能服务安全指引》

主题。

2）2024年10月12日，完成草案初稿撰写。

3）2024年10月25日至2024年11月，期间进行了多

次标准工作组内部讨论，并针对标准大体框架与内容方向进

行了修改与调整，形成标准草案。

4）2024年11月至2025年2月，召开企业座谈会，邀

请多家重点企业专家进行研讨，对其中的建设性意见进行了

吸纳，对《指引》进行了修改。

5）2024年4月14日，邀请学界专家、教育一线专家

开展闭门研讨会，并对《指引》进行细节性完善。

6)2025年5月28日，报中央网信办网安局、技术局

征求意见并修改完善，形成《指引》草案。

7）2025年6月10日，发布团体标准立项公告。

四、主要内容技术指标确立

本指引的主要内容分为8个章节和2个附录，