大模型生产力工具的思考与实践.pptx

大模型生产力工具的思考与实践

演讲人：贾安亚

商汤科技产品总监、小浣熊家族产品负责人;

从大模型变革之路到高效“炼丹”指南成本优化实践

扫码领取你的智囊团

咨询购票查看详情;;

GenerativeAlcanincreasedeveloperspeed,butlesssoforcomplextasks.

TaskcompletiontimeusinggenerativeAl,%

■WithoutgenerativeAl■WithgenerativeAl

100

10

20-30

80

35-45

45-50

60

40

20

0

Codedocumentation

McKinseyCompany;

60%的参与者认为ChatGPT对他们的满意度产生了中等程度的积极影响。尤为显著的是，它使人们感知到了生产力的提升，减少了重复性工作，而并未带来显著的压力影响。

此外，其他反馈突出了ChatGPT在助力工作开展、帮助学习新知以及便捷地获取有效信息等方面所起的作用，与传统工具

相比优势明显。;;

个人用户视角演变(以编程助手为例)

关注模型精度关注端到端用户体验;

企业落地视角演变(以编程助手为例)

全面探索从辅助开发人员到全生命周期;

20222024

InfoQ极客传媒;;

从需求到服务的业务闭环视角解构、重构多部门活动、协作和流程

解决资产沉淀难、规范落地难，技术债务积累多等问题;;

软件研发助手：面向开发者的应用形态

规划

记忆;

软件研发助手：面向开发团队的应用形态

集成开发环境→)C-Devops平台

更多外部系统;;;;

降低用户使用门槛，提升端到端效果

Prompt优化(外化COT)+ConstrainedDecoding+(内化COT?);;

选择【AllinOne】的【GUI交互为主】的应用形态

为什么AllInOne工具应用形态有助于提效

·语言与思维能力是否可以解耦(?assumption)·上下文切换成本

为什么LUI/CUI不是最佳的工具应用形态

·当下模型的意图理解能力限制及幻觉缺陷，导致模型对于缺槽反问，假设提醒等必要交互，不拒绝、不主动、不负???

·需要补充3S交流原则、CoT/ToT引导、检索增强、工具使用等使用方式契约，交流成本大，心智负担高，都是工具类产品需要避免的;

A

Al生产力工具未来展望;

THANKS

大模型正在重新定义软件

LargeLanguageModelIsRedefining

TheSoftware