周絮-AI Agent + AI Profiling，构建高效智能运维双支柱 conv.docxVIP

演讲人：周絮

01 大规模云上系统运维的特点和挑战

02 AIProfiling+AIAgent，助力云+AI运维进化

03 AI观测助力训推场景提升稳定性

04 AIAgent助力提升运维效率

01大规模云上系统运维的特点和挑战

01

大规模云上运维的特点和挑战

技术堆栈门槛高

?高度依赖于Linux系统的使用和命令并且需要具有专家技能人员，需要工具可以降低运维门槛。

?咨询的场景，包括客户在售前对于产品的相关咨询，也包括用户在使用中对于产品操作配置的相关咨询，包括售后用户在解决问题的相关咨询。

故障定界难

监控指标爆炸式增长及秒级抖动盲区与现场缺失

指标解读难

运维时刻的碎片化

?客户与阿里云：客户应用出现故障，难以排查是客户代码问题还是基础设施的问题。

?云产品间：涉及到多云产品间的故障定位及排查，往往链路长，定位困难。

如何给用户更好体验

降低应用的运维门槛

应用自顶向下的分析关联：实现系统指标与应用表象的关联；

追踪：全链路根因追踪，覆盖应用的调用情况和延时分布；可理解：问题根因和修复建议都是应用开发者可直接理

解和操作的。

深度剖析问题成因基于内核深度剖析

全视角：发挥内核的全视角优势，深度分析进程间行为关联；内核行为：深度剖析内核自身，以直观、可读

的形式剖析内核行为

提升运维效率AI辅助解决重复性问题

知识库：通过沉淀的工单问题及操作系统知识库，匹配到重复性问题并提升自服务率；

流程融入：将AI能力融入到运维工作的流程中， 我是开发人员才能发挥作用；

多Agent协同：将运维能力拆分成多个领域运

维问题Agent，并具备协同的能力。

我的程序为什么卡在这？

02AIProfiling+AIAgent，助力云+AI运维进化

02

AIProfiling+AIAgent，助力云+AI运维进化

1

1

2 AIforMaintenance:AI技术推动系统运维效率提升

AIProfiling

3

MaintenanceforAI:运维为AI训推场景提供故障及性能定位

2

AIAgent

3

4

智能辅助AI方案通过AI打通服务全链路，提供全新用户体验用户界面 控制台 OpenAPI OSCopilot CentOS安全接管服务

智能辅助AI方案

通过AI打通服务全链路，提供全新用户体验

扩展组件

增值服务

操作系统

增强能力工具SysOM运维、KeenTune调优等系统智能辅助工具

订阅服务CentOS接管为代表的操作系统服务

支持主流操作系统

原生支持AlibabaCloudLinux，并扩展支持其他Linux操作系统

SysOM运维服务 组件管理

控制台管理

OpenAPI支撑架构

裸金属 ECS 容器 x86 ARM ……

03AI观测助力训推场景提升稳定性

03

集群健康状态观测及异常发现 节点深度诊断剖析进程根因 持续追踪定位偶发问题 CPU/GPU融合分析定位性能瓶颈

健康分体系

专家工具集

持续追踪技术

自动化诊断

?

?

04AIAgent助力提升运维效率

04

任务型机器人

传统AI 大模型

Agent

? ?? ?? ?

初步外部交互能力 标准化外部交互能力

?????

? ?

?? ?

? ??

?

服务输出 GTS服务团队

服务形式 OS大模型

阿里云内部团队 业务平台 社区

诊断MCP 诊断智能体 值班机器人

在运维工作的不同场景AI的应用

?

一线服务 工单流转 工单处理

工单生成 AI分类 OS大模型

运维流程 智能答疑 值班关联 诊断智能体

问题复盘 知识沉淀

AI打分特征提取?特征分析文档生成?

?工单分析管理 运维产品研发 运维产品维护 知识库沉淀

智能路由

能力建设 智能分析

智能报告

诊断智能体

智能宕机分析

JVM智能调优

智能热修复

特征识别告警分类推送 知识库智

版本自动升级 能体

?

???

支撑平台

扁鹊(SysOM) 宕机中心 热补丁中心 数据中台

……

通过智能命令推荐等功能提升运维效率超50%

大量操作系统领域语料输送，在操作系统领域比通用大模型更准确

运维提效高质量知识

运维提效

高质量知识

务。

根据要求推荐命令行并可直