从提效到创新：大模型在哈啰落地的最佳实践.pptxVIP

从提效到创新：大模型在哈啰落地的最佳实践刘行亮

数据截?2023年12?底单?业务顺??业务打?业务租电动?业务420亿公? 500+个300+个200个100+骑?总?程 ?驻城市覆盖城市（含县级市）覆盖城市（含县级市）城市（含县级市）190万吨逾3000万名碳排放减少量认证?主助??业务租?业务换电业务500+个 160亿公600+个超30万300+个?驻城市 骑??总?程覆盖城市 ?辆供给 覆盖城市（含县级市）（含县级市）70万7000+吨碳排放减少量?型硬件即服务智能猫屋互联?双边交易智能电池哈啰租?哈啰租电动?哈啰顺??共享单?共享助??哈啰打?智能换电柜认识哈啰

哈啰集团AI整体布局快速构建应用Copilot，提升内部效能办公｜编程｜BI｜运营｜客服Agent，直接赋能业务，提升GMV售前｜售中｜售后AIGC，赋能营销文案｜图片｜视频

哈啰集团本地出??活服务业务单车助力车顺风车 打车租车数科街猫全链路?键智能多卡微调机制推理加速框架与最优的Benchmark主备链路+检活机制?研配额智能化管控机制计算网络多云基础设施存储数据库安全?模型基座通义千问月之暗面 百川豆包…模型训练哈啰贾维斯-幻视大模型平台模型评测 模型部署 模型服务监控 应?编排应?服务四种Agent模式ToolsSelf-CorrectionPlanningMulti-A

内网问答内网文档接入，问答研发答疑监控平台答疑钉钉群答疑覆盖多种知识库支持定制机器人接入内部20个平台支持文档问答支持知识溯源（反馈归因到文档）群答疑解决代码报错问题个人知识库支持文档问答Word/Excel/PPTPDF/Markdown即将支持语雀链接

AI生成测试用例可以大幅度提高测试效率质量保障团队使用海螺AI辅助生成测试用例的人员占比测试用例整体采纳率

日常开发环境使用的开发人员占比研发效率提升代码补全平均响应时间代码补全准确率平均每周通过AI完成评审的应用数平均每周发现Bug数

指标问答指标描述/相关知识进一步问答简单分析知识库训练与学习知识向量化数据分析Copilot对话询问数据资产、数据伽利略数据分析产品仪表盘 洞察分析 数据解读 机会发现Copilot报表引擎DSL解析 执行计划 生成数据生成可视化分析

知识价值：运营经验业务SOP系统链路公网知识；知识难度：运营经验业务SOP系统链路公网知识新员工培训人员协同项目指导知识沉淀日常工作工作交接方案沉淀智能推送运营日历活动助手复盘助手机器人人工知识问答知识库工单生成责任人定位流程地图QA线下处置

话术推荐四轮场景处置类采纳率12%咨询类采纳率26%工单摘要实现大模型全量接入ATT下降20s+智能质检产品能力已上线算法支持26个不同类型的质检因子当前用户情绪有波动，请注意安全安抚用户，未被封禁…转人工为什么要收高速费你好，哈啰客服中心客服您好，平台给您计算的订单费用里并不包含高编辑重等新费生用成发送速费、停车费、路桥2费/3托管您好，高速费原则上……你好，高为什么要收高速费？搜索相关知识1、高速费XXXQ:多收高速费润色 A:平台给您计算的订单费用里XX发送服务相关回答 引导Q:高速费收取原则A:你好，高速费收取的原则为XX大模型流程阶段转人工后模块智能摘要前置处理服务引导知识搜索会话处理会话处理会话处理会话处理回复阶段结束阶段话术推荐智能托管智能质检用户状态提醒润色会话结束

A

意图理解多轮对话DM判责处理业务规则商品详情推荐操作处置赔付API咨询订单卡片商品推荐比价优惠券意图引导（反问）序列决策（Tools）话术生成（摘要、卖点）售前：导购售中：判责售后：客服意图树：定位猜你想问大模型知识库意图大模型摘要大模型判责大模型推荐大模型文本知识流程知识类目知识卡片模版

挑战解决方案全链路RT的问题平衡不同大小模型速度和效果；部分功能异步调用内容生态不足哈啰自有车型库+车评网接口数据意图识别的准确性（无标签）生成式+人工测评根据意图召回车型（车型信息受供应商动态变化速度快）基于词的文本匹配+基于向量的语义匹配交互能力车型对比卡片车型选择车型展示卡片打招呼词系统能力历史会话记录业务监控上报请求过滤车型用户请求管控租车导购小助手前端AIChatService对话服务幻视大模型平台哈啰大模型大模型生成回答用户意图识别大模型生成问题 违禁词过滤AppProphetService热门问题推荐 车型检索召回个性化排序命令流式应答发送问题回答问题

多模态信息整合与标注多个大模型互相辩论出最终判例87%+准确率提升4.39%乘客客诉率下降给大模型输入制度和法规，让大模型做个判官！顺风车判责4.1