Agentic DB Day · 杭州-TairTair 语义缓存 让Token 用得更准、更省.docx

Agentic DB Day · 杭州-TairTair 语义缓存 让Token 用得更准、更省.docx

阿里云×NVIDIA

Tair语义缓存

让Token用得更准、更省

曾诚

阿里云数据库产品事业部Tair产品专家2026/08/15

一阿里云

SCENE·真实的Case

真实场景中的痛点

你的AlAgent上线三个月,用户体验不错。

但这个月的Token账单,又上涨了。

钱,到底花在哪儿了?

两类最典型的Agent应用,正在被一件事拖住:重复的问题,和越滚越长的上下文。

客服Agent

上万个用户——在问同一个相似的问题

重复的问题

CodingAgent

AICoding的上下文——几轮对话,滚到了十几万Token

越滚越长的上下文

——这些,都是真实客户

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档