中国信通院：公共云AI推理服务稳定性建设研究报告2026年.pptxVIP

CAICT中国信通院一阿里云

集智专题报告

公共云Al推理服务稳定性建

设研究报告

(2026年)

Australia

中国信息通信研究院云计算与数字化研究所

阿里云计算有限公司

2026年9月

本报告版权属于中国信息通信研究院和阿里云计算有

限公司，并受法律保护。转载、摘编或利用其他方式使用本报告文字或者观点的，应注明“来源：中国信息通信研究院、阿里云计算有限公司”。违反上述声明者，编者将追究其相关法律责任。

版权声明

前言

以大模型为核心的人工智能（ArtificialIntelligence，AI）技术

正加速规模化应用。公共云承担模型部署、算力调度和应用接入等关键功能。随着推理规模扩大、应用链路延长，稳定性问题已从模型可用性延伸至分布式链路和基础设施，成为产业发展的重要制约因素。

本报告所称“公共云AI推理服务稳定性”，是指在多租户共享资

源、弹性按需供给和跨可用区、跨地域部署条件下，公共云持续提供可预期、可恢复、可审计推理服务的能力。其对象不仅是模型接口，还包括算力、网络、存储、模型调度、智能体（Agent）工具链和知识服务构成的端到端链路。

围绕上述内涵，本报告将发展背景、风险变化与建设路径贯通分

析，提出“纵向分层、横向协同”的治理框架：基础设施层提升算力、网络和存储的连续供给能力；模型服务层加强上线准入、动