「信息检索小助手」Agent应用演示.pptxVIP

加速AI原生应用落地吴运声腾讯云副总裁、腾讯云智能负责人腾讯优图实验室负责人

LLM+多模态融合训推再加速模型能力快速提升，AI原生应用兴起交互体验更丰富模型使用更高效智能体落地应用构建更快捷

更智能、更拟人，构建大模型时代的语音交互体验识别准确率更高适应复杂场景输出拟人度更高情感更丰富延迟更低交互更丝滑ASR大模型在远场/噪音等复杂场景下，字错率下降20%+TTS大模型驱动韵律建模，语音自然度接近真人一句话输入即可复刻音色，定制化成本大幅降低贴合合成文本演绎，情感丰富度高TRTC确保端到端音视频延迟300ms，整体会话延迟1000ms自研VAD技术实现对话智能打断支持服务端和客户端AI降噪、声纹识别、3A回声消除支持23种方言识别动态适应口音、语速变化，支持带噪声场景毫秒级延迟，支持高并发

腾讯云语音PaaS解决方案，全链路融合AI与实时通信能力TRTC全球传输网络服务端音频处理智能降噪AIVAD抽帧截图智能打断AI语音对话语音识别-ASR大模型超高识别率远场/噪音等复杂场景下，字错率下降20%+多语种识别自动识别15个语种实时话者分离秒级分离不同说话人高表现力支持多种语气、拟人度大幅提升多语种输出中英混合说，多语种随时切换语音合成-TTS大模型智能对话-LLM文本处理，智能推理知识库上下文记忆多模态语音输入语音输出用户

基于TI平台集约管理算力，研发大模型和传统CV模型，应用在电视产品文案生成、视频分析等场景全面升级训练能力 某头部消费电子企业集约算力管理，高效任务调度充分运用GPU虚拟化技术和分布 式计算能力A研发提效50%以上覆盖大模型和传统CV场景充分使用精调工具链，无需配置 繁琐开发环境资源利用率提升80%以上TI平台升级精调工具链，支持训推一体潮汐调度支持训推一体潮汐调度训推潮汐调度灵活排队策略在线推理闲时算力用于离线训练统一优先级配置 服务弹性伸缩排队策略可配置，满足企业个性化调度需求严格先进先出 资源最大化利用 灵活开启抢占原生支持强化学习蒸馏精调 强化学习 自驾模型训练自驾训练框架快速启动学生模型教师模型Ray分布式计算框架强化学习BEVFormer自驾模型训练FastBEV自驾模型训练

TI平台加速能力全面升级，推理加速效果领先推理加速效果业界领先典型场景QPM行业领先在首Token延时2s、吐字速率=20Tokens/s前提下，QPM达到100+知识问答深挖内核 架构延展 双引擎支持降低服务时延Kernel优化int4量化算子优化MTP EP多专家并行解码 并行DP+EP并行化DeepEPPD分离计算与通信融合手段精度几乎无损前提下，提升吞吐能力部分能力已贡献至开源社区SGLangvLLM基于TI平台统一纳管云上GPU资源，部署专属DeepSeek模型，应用在知识问答等多领域Angel加速套件全面升级 某头部新能源汽车制造商使用TI平台Angel加速后DeepSeek推理性能显著提升资源成本显著降低支撑企业多业务场景营销座舱语音助手

智能体大爆发，成为企业创新提效的利器大模型+知识库企业私域知识驱动智能体高效升级插件生态不断丰富智能体利用更多工具拓展应用边界从单Agent到Multi-agent智能体自主执行复杂任务、长程任务

大模型知识引擎腾讯云智能体开发平台

RAG能力行业领先大表格数据表格问答支持从复杂Excel表里检索答案

RAG能力行业领先选择文档生成问答对并支持校验支持从文档自动生成问答对，并校对、管理

RAG能力行业领先文档对比任务创建文档比对支持文档比对、比对后决策

全面Agent能力支持工作流创新加入具备全局视野的Agent，支持智能的节点回退

全面Agent能力支持转交关系配置首创零代码多Agent转交协同方式，兼容主流Agent框架

Agent全面支持MCP，平台预置丰富的内外部高质量插件腾讯云COS文本翻译搜狗搜索文档转换BangBox腾讯位置服务全面Agent能力支持

实战打磨贴合客户需求应用端权限配置用户角色关系角色权限关系用户角色权限角色配置支持平台级、应用级、知识库等完整权限体系配置

实战打磨贴合客户需求多意图确认问答文档工作流大模型对话意图支持文档、问答、工作流、系统等多种意图达成方式的优先级配置

实战打磨贴合客户需求完备的OP系统支持发布后应用运营，支持私有化部署企业TPM/QPM配置体验应用配置

把AI变成生产力携手共创

主动纠错/反思当工具调用失败、工具选择不合理，上一步行动有瑕疵，模型主动纠正上一步行为主动选择和调用工具代码执行股票信息当前Agent思考规划任务拆解和任务规划计算器百科信息自定义工具Multi-Agent：通过Handoff的自由范式协同多个Agent输入问题用户输入问题输出回复回复结果内