360（张锋）：智能纽带：AI Agent在解决大模型 应用难题中的关键作用.pptxVIP

智能纽带：AIAgent在解决大模型应用难题中的关键作用

张锋奇虎360AI研究院技术总监

360人工智能研究院认知引擎负责人

天津大学硕士毕业后，任职华为技术有限公司，先后从事计费产品的研发、设计及项目管理工作，主持参与参数AILab的建设，负责大数据平台、推荐平台和建模平台的建设和实施。其中推荐平台在四川电信落地后，显著提升了用户观看时长，大数据平台作为标品，落地数百个据点，成为部门主要现金流来源

后续加入360公司，深耕于人工智能在互联网、物联网、数字化等领域的落地，带领团队主导360大模型的数据、训练、推理、应用等落地工作，以及建模平台、推荐平台、知识图谱平台等产品开发、设计及管理工作，相关成果落地于安全大数据、互联网、企业数字化、AIoT等360集团全量业务场景，支持千万级硬件设备，服务亿级用户

”

张锋

奇虎360AI研究院技术总监

讲师简·介

“

•LLM落地应用-长板和短板，及当前解决方案

•AIAgent的整体框架

•AIAgent的应用案例

目录

ChatGPT的探索，被认为是强人工智能拐点的到来、是超级人工智能雏形，即：LLMtoAGI

AGI被认为是人工智能的更高层次，它可以实现自我学习、自我改进、自我调整，解决任何问题而不需要人为干预。

1950

图灵机图灵测试的提出

G-gle

AlphaGo战胜李世石

GPTS

pika

ocoae,

AGI发展回顾

深蓝战胜

卡斯帕罗夫

ChatGPT发布

AGI＆More…

我们以为的Gemini

Gemini：你在玩石头、剪刀、布。

实际的Gemini

问题1：告诉你看到什么

Gemini：我看到一个人的右手。手掌张开，手指分开

Gemini：一个人敲木门

Gemini：我看到一只手伸出两个手指，这是数字二

问题2：你觉得我在做什么？提醒：这是一个游戏。

Gemini：你在玩石头、剪刀、布。

Gemini：·再强大的模型，也不万能

Gemini演示中并没有直接采用Agent，但是实际流程并没有两样

Jasper，CopyAI，Quillbot

CanvaAI，ClipDrop，Pika

NewBing，Perplexity，You，Phind

ChatDoc，AskPDF

AI生产力

你可以轻易地让任何一个GPT生成一首诗、计算一道奥数题。

然而工作中你不需要作诗，也不需要算奥数题。工作中面对是写不完的方案，做不完的报告，和看不完的邮件

1写作

2

3

4

大模型应用的能力长板——搜、读、写、画

绘画

阅读

搜索

7

生成的幻觉问题

记忆和行业知识问题

提示词工程难度问题

与现有信息化系统的协同问题

我们需要一个工具平台，让大模型“扬长避短”，实现大模型实际落地的“最后一公里”

商业场景使用对内容生成质量容错率极低，只通过简单知识问答，无法生成满意的内容和答案

参数再多、再强的模型，都无法也无法深入的了解一个行业。“海莲花常用的攻击方式是什么？”

企业不可能将现有信息化系统推倒重来

大家的共同诉求是大模型能增强、协同、而非取代

LLM应用·的能力短板——幻觉、知识/记忆、交互

1

2

3

4

8

LLM的落地工具：长期记忆、接口对齐、任务规划

复杂任务规划调度

堆提示词技巧

长期记忆

9

工具可以有效拓展LLM的能力边界

解决靠堆参数、堆提示词无法解决的复杂推理等问题

汇率问题，调用工具获取实时数据广州国庆七日游的亲子游计划，工具使用+多步执行自主规划和决策的树状复杂问题，路径优解

特定复杂任务：多工具使用

开放复杂任务：自主性协同

领域任务

10

用LLM作为大脑或这些智体控制者的主要组成部分，并通过多模态感知和工具利用等策略扩展其感知和行动空间

比照行业发展，我们做的就是AIAgent

①LLM大脑：核心控制器。模型一键适配，Prompt模版降低写提示门槛。

②Planning：将任务拆解，流程具象化，就像工厂流水线一样，在这个流水线中，可以放置不同的工具完全任务的处理。

③Tools工具：让Agent学会调用各种外部工具，涵盖搜索、文档检索、数据分析、代码编写、教育、投资、出行、娱乐等各种应用。