大模型内容安全审核 SOP.docx

大模型内容安全审核SOP

大模型内容安全审核SOP

一、总则

1.1目的

为规范大模型内容安全审核工作，建立统一、高效、可追溯的审核流程，防范大模型在训练、微调、推理、输出、交互及对外服务过程中产生违法违规、有害不良、侵犯权益、泄露隐私、传播虚假信息等内容风险，保障企业平台内容生态安全，保护用户合法权益，维护国家安全和社会公共利益，特制定本标准操作流程。

1.2适用范围

本SOP适用于企业自研、采购、部署、调用、集成或对外提供的大模型服务，包括但不限于文本生成、对话问答、代码生成、图像生成、音频生成、视频生成、多模态理解、智能体、知识库问答、API接口、插件调用等场景。适用于大模型内容