可信AI技术和应用进展白皮书（2023）.pptxVIP

人工智能的飞速进步和应用带来了前所未有的机遇和挑战，也 将可信人工智能推向产业发展的前台。2021 年，中国信通院《可信 人工智能白皮书》首次系统提炼出业内较为统一的可信 AI 特征要素， 在安全鲁棒、隐私保护、公平性、可解释的大框架下，可信 AI 正在 金融、保险、制造、医疗等领域加速落地。伴随人工智能技术底座 不断夯实和大模型、AIGC 等的爆发式增长，人工智能迈出了走向通 用人工智能的关键一步，2023 年 4 月中共中央政治局会议强调“重 视通用人工智能发展，营造创新生态，重视防范风险”，可信 AI 成为新阶段平衡创新与风险的重要技术手段。 本报告基于统一的可信 AI 认知维度，梳理总结可信AI 技术和 应用发展现状，提炼面向新阶段大模型和 AIGC 引发的新需求，形 成以技术为保障的可信 AI 评估体系和工具。全文主要观点如下： 一是归纳了可信 A I 发展变迁的产业技术背景，即近期算法、算 力、数据基础不断夯实，人工智能固有技术风险持续放大，可信 AI 技术成为 AI 领域关键底层能力，各国也正在围绕生成式人工智能监 管、人工智能伦理等推动治理。 二是梳理了现阶段可信 A I 四大技术方向发展情况。可信 AI 已 在行业领域落实成具体产品和实践案例，总体上正从创新整合解决 方案阶段迈向形成可信系统机制的阶段，完整的实践链路、健全的 标准和系统机制将逐步落地。 三是概括了面向大模型和 A IGC 的可信 A I 探索，即大模型时代 下可能面临的安全可信挑战，主要包括大模型的生成式攻击和防御、; 大模型自身的安全风险和隐患、大模型的可解释性和公平性问题等 三大类。 四是构建了以技术为保障的可信 A I 评估体系，面向产业发展需 求，构建了包括隐私保护检测、可解释性检测、公平性检测和鲁棒 性检测的可信 AI 检测指标体系，并提出了具体的评估内容、指标和 方式，并可进一步赋能大模型与AIGC 发展。 最后，本白皮书从技术、产业、生态和监管维度对可信人工智 能发展提出了建议，对趋势进行了展望，将迎来研究应用更加均衡、 内在动力更加多维、外在监管更加全面的发展局面。; 目 录 第一章 人工智能迈向发展???阶段 ............................................................................................ - 1 - 1.1 人工智能发展迎来全新时代 ....................................................................................... - 1 - 1.2 人工智能可信面临全新挑战 ....................................................................................... - 2 - 1.3 全球人工智能治理机制进展 ....................................................................................... - 5 - 1.3.1 基于政策法规的治理机制 .................................................................................. - 5 - 1.3.2 基于生态共识的治理机制 .................................................................................. - 9 - 第二章 可信 AI 产业实践深入发展........................................................................................... - 11 - 2.1 应用 AI 鲁棒性技术对抗恶意攻击 ............................................................................ - 12 - 2.1.1 提升文本识别对抗能力....................................................................................... - 13 - 2.1.2 提升图像伪造识别能力.......................................................................