人工智能安全合规治理要求与实践.pdfVIP

网域前沿

InfosecSpotlights

人工智能安全合规治理要求与实践

文│北京天融信科技有限公司吴潇王鹏晋钢

网络安全合规意识是驱动网络安全防护门先后制定与互联网信息服务、网络信息内容治理、

措施有效落实的关键因素。当前，人算法推荐管理、深度合成管理、科技伦理审查、生

工智能应用日益火爆，在给社会生产及人民生活带成式人工智能服务等相关的监管要求。同时，国家

来便捷的同时也引发了多种安全问题，如利用生成标准化管理委员会、中国人民银行等国家及行业标

合成技术生成虚假内容实施网络诈骗等。为有效防准管理部门也陆续发布与算法安全评估、生成合成

范人工智能创新带来的安全问题，迫切需要增强组内容标识、算法应用信息披露等方面相关支撑落地

织机构在人工智能应用研发及运营中的安全合规意实施的标准指南，整体形成了法律法规、监管要求

识，以促进保护训练数据与算法模型等安全合规义及标准规范相呼应的人工智能应用安全合规体系。

务的执行。国家坚持发展与安全并重，对生成式人人工智能系统生命周期，可能面临来自训练

工智能实行包容审慎监管机制。既避免“过度监管”数据、算法模型、应用开发及运行等不同层面的多

抑制人工智能创新发展，也防范“野蛮生长”引发种安全风险。在监管要求方面，依据《网络信息内

重大安全问题。人工智能安全合规的本质是根据不容生态治理规定》进行网络信息内容治理，可以防

同层面的监管要求，综合运用安全管理机制与安全范训练数据和人工智能应用输出内容中包含违法不

技术防护措施，实现人工智能应用快速发展与恰当良信息安全风险。遵循《互联网信息服务算法推荐

风险管控的动态平衡。因此，人工智能应用安全合管理规定》要求，能够缓解算法模型中存在偏见歧

规不仅是技术问题，更是维护国家信息安全与社会视、“信息茧房”效应、未成年人沉迷网络等安全

稳定的战略需求。通过梳理与人工智能应用安全相风险。落实《互联网信息服务深度合成管理规定》

关的监管要求及标准规范，提炼组织机构应履行的和《人工智能生成合成内容标识办法》，能够有效

重要安全合规义务，并从科技伦理安全管理、算法应对因为人工智能系统误用滥用带来网络身份盗

安全管理、数据标注安全管理、数据集保护、算法用、内容传播无法快速溯源等安全风险。践行《生

模型保护、应用保护等多个方面对具体安全合规内成式人工智能服务管理暂行办法》要求，能够防范

容进行解析说明，供组织机构在开展人工智能应用训练数据违规获取、数据标注结果质量差、用户个

安全合规实践时进行参考。人信息权益保护不当等安全风险。参照《科技伦理

审查办法（试行）》开展科技伦理审查程序，可有

一、人工智能安全合规治理要求效预防失控性风险、社会性风险、侵权性风险和歧

视性风险等人工智能伦理安全风险。

随着全球人工智能规模化建设和应用加速，此外，在标准指南方面，参照《生成式人工

人工智能应用在推动各领域产业升级的同时不断引智能服务安全基本要求》（TC260-003）和《网络

发多种安全风险。为促进组织机构有效防范人工智安全技术生成式人工智能预训练和优化训练数据

能可能出现的内生及衍生安全问题，确保人工智能安全规范》（GB/T45652-2025），通过执行语