3刘星言-客服领域Agent模型的内外兼修之道.pdfVIP

云技术服务Agent的内外兼修

演讲嘉宾：刘星言

阿里云智能算法专家

01业务背景与挑战

目录02模型外的系统设计

CONTENT03模型内的训练优化

04总结

01

「云小二」业务背景与挑战：

构建通用自主Agent的必要性

云小二Aivis：云技术服务专家的AI伙伴

定位：工具增强的云技术服务AIAgent

目标：最大化人工技术客服对AI回复的采纳率

约束条件【代码Agent】

工具调用云技术领域专精•人性化要求不高

•业务逻辑特殊性低。

多轮对话时效性≤1min【对比深度搜索Agent】

•时效性要求不高

规模化场景覆盖人性化回复

•交互模式相对固定（澄清+执行）

发现：AI与人工专家的鸿沟高达50%

【数据洞察】

•在60%-70%的服务工单中,提供给模

型的上下文信息(对话历史、参考文档)足以

支撑人工客服做出预期回复。

•然而,模型生成内容与人工回复的一

致性只有约10%。

根因：AI与人类专家的决策鸿沟来自？

AIAgent模型需要内/外兼修

02

「云小二」Agent系统设计

构建高质量的信息环境

云小二Agent链路结构

Skill-like

GeneralReasoner+[ExpertTips+Tools]ExpertReasoner

通用Reasoner整体系统架构

检索参考文档、经验、早期对话压缩和关键信基于对话上下文判定每个参考信基于上下文、在线阅读器的输出、

以及历史工单轨迹。息提取，可异步。息是否相关、提取相应证据片段，相关参考文档片段，生成思考过

评估置信度，提供决策建议。程和单步行动决策。

中短期记忆管理：提升当前会话的信噪比

【上下文管理器】【在线阅读器】【经验按需加载与拆分】

•对话压缩：压缩早期对话内容会基于对话和当前问题，评估每份参•许多专家经验是与特定场景绑定的；

（可按需展开）考资料，输出：•动态加载场景相关的经验

•关键信息提取：提取并历史对话1）相关性；2）强相关的“证据”；•部分经验与工具结果绑定——例如，

的关键信息（如用户提供的ID、3）置信度；4）后续决策的行动建议。当某工具被调用后，其返回结果会

报错码、重要参数等）附带上这段解读指南。

长期记忆：将历史工单抽象为轨迹和经验

【挑战】直接使用历史工单作为