趣丸科技在运维AI Agent 的探索与实践.pdf

趣丸科技在运维AIAgent的探索与实践

趣丸科技-黄金

01大模型与Agent概述

目趣丸科技在智能运维Agent上的探索与实践

C

02

O

N

T

E智能运维Agent应用场景分享

N

03

录T

S

04未来展望

大模型与Agent概述

大语言模型

什么是大语言模型

大型语言模型（LLM）是基于大量数据进行预训练的超大型深度学习模型。LLM是一

种类似人脑特征的深度学习算法，LLM中的“Transformer”网络本质上就像一个巨

大的、在海量数据上训练的大脑关联区

幻觉：大语言模型的输出可能与实际情况不符

随机性：大模型的输出具有随机性，并不会严格准照指令

提示工程

提示工程是指导生成式人工智能（生成式人工智能）解决方案生成所需输出的过程

AIAgent解密

什么是Agent

Agent可以理解为某种能自主理解、规划决策、执行复杂任务的智能体，它能够感知其环境，

通过自己的决策和行动来改变环境，并通过学习和适应来提高其性能。

简单理解：Agent=Planning+Memory+Tools

LLM是大脑，而Agent就是完整的人

Agent主要类别

AutonomousAgent：通过自然语言的需求描述，能够自动化执行各项任务达成目标结果，必要的时

候需要人为引导，具有明确的工具属性。

GenerativeAgent：模拟人类特征、具备自主决策能力以及长期记忆等，一种具有数字原生意义上的

AI-Agent。

五层基石理论

•Models，也就是我们熟悉的调用大模型API。

•PromptTemplates，在提示词中引入变量以适应用

户输入的提示模版。

•Chains，对模型的链式调用，以上一个输出为下一

个输入的一部分。

•Agent，能自主执行链式调用，以及访问外部工具。

•Multi-Agent，多个Agent共享一部分记忆，自主分

工相互协作。

WhyMultiAgent

实现简单分工协作

无需协作开销场景化差异化

•复杂多领域问题，单一Agent无法胜任。

•不同场景需要不同的任务规划能力、思维能力等。

•更贴近人类行为

趣丸科技在智能运维Agent上的

探索与实践

AI在趣丸科技的落地