从 Token 数量到 Token 密度:万亿参数规模下的高效智能体智能.pdfVIP

  • 4
  • 0
  • 约7.66千字
  • 约 44页
  • 2026-07-03 发布于山东
  • 举报

从 Token 数量到 Token 密度:万亿参数规模下的高效智能体智能.pdf

如果一个Token值0.001元

万亿参数模型每刻至少烧掉一辆特斯拉

效率,是智能体时代的第一问题

从Token数量到Token密

度:

万亿参数规模下的高效智能体智能

周俊

蚂蚁集团副总裁

架构设计

01

预训练智能体数据

目录02

评测结果——能力释放·效率突破·现有差距

03

定位与展望

04

今天的LLM开发者面临一个不可能三角

快——推理成本低,但参数有限做不了复杂任务

强——能力顶配,但GQA注意力成本指数级增长

智——智能体能力≠聊天能力+工具调用

三者不是独立问题——共享同一

文档评论(0)

1亿VIP精品文档

相关文档