政务大模型安全治理框架.pptxVIP

政务大模型安全治理框架

概要

政务大模型是专注在政务领域的行业大模型，政务大模型在通用大模型基

础上，通过检索增强生成或者模型微调等技术手段，使模型更加贴合政务的特

点和需求。基于政务大模型的应用，为政府决策、公共服务、带来了全新的变

革。然而，政务大模型应用也伴随着各种潜在的风险。

政务大模型安全风险主要包括七个主要类型，即数据安全风险、训练语料

安全风险、模型安全风险、应用安全风险、软件供应链安全风险、生成内容风

险、大模型自身风险。

政务大模型的安全治理框架是保障其安全、合规运行的基础。全面的安全

治理框架，需要满足合规要求、建立完善安全机制、提供安全技术保障。

其中，合规是首要原则，涉及多项法律法规、规章制度的遵循。安全技术

保障是政务大模型安全治理框架的核心，涵盖从基础安全措施、数据安全、大

模型开发安全到运行安全等方面。

政务大模型的安全治理上，需要政府、企业、研究机构、监管机构等各方

协作，形成良性互动生态体系，构建安全、可靠、有序的环境，充分发挥政务

大模型在提升政府服务效能、推动社会进步方面的积极作用。

©奇安信集团股票简称：奇安信股票代码：688561第2页

政务大模型安全治理框架

1生成式人工智能快速发展，政务大模型为数字政府赋能

人工智能已成为引领科技革命和产业变革的战略性新兴产业，以大模型为

代表的生成式人工智能，是人工智能技术发展的重要方向。基于大模型的生成

式人工智能，从文本处理到声音、图像、视频等多媒体处理，从理解知识到创

造知识，正在向着通用人工智能（AGI）的长期目标向前跨越。

大模型正在赋能千行百业。在政府行业，大模型推动政府迈入智能化。在

数字政府建设中，大模型将提升政府服务水平，提高政务服务的体验，同时优

化决策制定、加强政府内部协同、提升城市治理能力，为打造服务化、智能化、

现代化的数字政府提供关键技术支持。

1.1政务大模型应用广泛，各地陆续开展应用实践

政务大模型在政务领域有着广泛的应用场景。首先，在公共服务方面，政

务大模型可以提供智能化的政务咨询和办事指引。为公众提供准确、个性化的

解答，提高政务服务的效率和满意度。

其次，在政务办公方面，大模型可以辅助公文写作、文档处理、会议纪要

整理、内部知识管理等日常工作。它还可以分析部门间的数据，发现管理中的

问题和优化空间，促进跨部门协作。

再者，在城市治理等政府监管领域，大模型可分析城市运行的大数据，预

测和识别问题，支持政府进行更科学的决策和更有效的资源分配，实现城市管

理的智能化和精细化。例如在城市应急管理方面，大模型能够快速整合道路摄

像头信息，为决策提供支持。

政务大模型开始在一些省市落地。在北京亦庄经开区，亦智政务大模型服

务平台正式上线。平台实现了智慧政务小助手、迎商中心数字人、智能决策助

手、亦城慧眼、实验室智能监管等多个场景应用。在北京市生态环境局，打造

了生态环境“监管－监测－监察”--“三监”联动大模型，支撑了新阶段大气污染

防治科学、精准、依法治污。在广东省政数局，上线基于大模型的AI智慧服务，

提供智慧搜索和AI智能问答，提升一体化在线政务服务能力。

©奇安信集团股票简称：奇安信股票代码：688561第3页

政务大模型安全治理框架

1.2政务大模型，以通用大模型为基础来构建

政务大模型是专注在政务领域的行业大模型，是在通用大模型的基础上，

通过知识增强、模型微调或者增量预训练来构建。政务大模型构建是一个循序

渐进的过程。首先，可以对通用大模型进行知识增强，通过提示词调优和数据

检索提升问答效果。再者，通过微调和增量预训练形成政务领域垂直模型。不

同的构建方式，都是将大模型技术与政务需求紧密结合，提高大模型对政务行

业的领域知识，更好地服务于上层的政务大模