代码大模型的场景价值和产品实战.pptxVIP

代码大模型的场景价值和产品实战汪晟杰腾讯产品专家

目录AISE的场景与代码大模型的价值懂工程的AI代码助手的实战研效+AI+标品化建设

Part01软件工程+AI助手的挑战软件工程3.0里的编码赛道的价值企业内编码+AI的挑战解决思路

300字以内进行概括性的案例介绍（突出亮点、案例独特性等）软件工程AISE

AISE的基本流程沟通编码排错评审调优代码补全据当前代码类型、AST树结构等相关信息，进行代码补全，生成高质量的代码生成注释代码纠错有针对性地给予对应的代码，并替换错误的代码区块代码查错定位问题并辅助生成建议代码指令不用敲代码，指令操作页面修改代码沟通通过QA进行上下文推理给出回复代码解释A辅助指导当前文件、类、函数的作用，帮助加速理解代码逻辑。辅助MR校对辅助一键自动生成提交信息代码AI评审可生成评审建议生成单元测试

AI在编码中的挑战01准度/评测02成本/算力03质量/安全

大模型成本与体验的极限拉扯代码补全技术对话单元测试代码诊断训练 推理管理平台模型工厂数据运营4+1+1代码生成率代码采纳率对话采纳率测试生成率耗时情况QPS全链路遥测体验成本用相对较低的推理成本，batch计算，小于300ms的延迟预训练更小的代码模型SFT微调基于混元进行大模型指令对齐和强化学习进行行业模型的训练和推理优化，提升产品响应速度与交互体验反馈真实场景下的badbase，挖掘行业场景价值

补全在工程理解力上的实践相关文件大模型相关函数表征Import头文件打开过的文件注释表征上下文感知模块质量分后置处理截断算法IDE、LSPToken窗口大小IDE表征FillinthemiddlePrompt组装跨文件相似文件块前缀后缀重复内容截断AST

演示+W

理解工程的可见价值01数据安全=好02IDE+编码效能=快03对话+工程理解=准

仓库代码检索+RAG01CodebaseIndexing02强化搜索03Embedding速度

大模型与项目工程代码的极限拉扯代码复杂度工程复杂度RAG项目工程结构相关联的跨多文件语法树语法特征函数签名+注释优先代码大模型+FIM代码大模型+圈选代码仓库代码检索代码大模型RAG

大模型+知识库/代码库+检索增强技术文档/代码Chunks/知识片段知识库/向量数据库问题IDE插件向量ContentsPromptLLM大模型文档类型：代码、技术文档、规范文档代码要求：需要有文件级、方法级注释格式规范，语法正确业务领域相关，具有代表性给出配套的MD文档Agent扩展非特定领域问题Embedding人工或自动化地从示例代码、配置和文档中抽取出知识片段格式：功能需求，代码知识1.代码知识分为文件级、函数级和片段级三个级别，分别对应不同复杂度的功能需求文件级：是代码文件内代码元素的组合，通常代表一个功能函数级：一个独立的函数片段级：Api接口调用Embedding使用向量化模型对前面的数据向量化后存入向量数据库检索topK召回element：代码片段内容path：代码文件路径docstring：功能需求描述Vector：向量结果element_with_doc：代码经过大模型的解释结果granularity：知识粒度url：引用仓库地址阈值检查关键字组合过滤功能需求，代码知识功能需求，代码知识功能需求，代码知识功能需求，代码知识……固定格式请求LLM模型返回结果请学习以下文档：功能需求，代码知识（格式化）功能需求，代码知识（格式化）功能需求，代码知识（格式化）根据以上文档回答问题：问题XXXXRAG的场景，需要将repetition_penalty设为1，让模型参考prompt中的知识需要做好RAG的能力测评，根据测评结果来调整中间过程

产品在内部落地的架构分层应用层中间层基础层预训练模型模型混合平台行业模型 混元模型企业自有模型精度调优模型评测平台模型训练自有数据训练集开源代码微调自有内部代码、工蜂代码提示工程文本提示到代码补全代码上下文推理文本执行指令到运行VectorStore扩大模型的代码领域的知识代码工程领域上下文记忆 会话腾讯云VectorDB基于代码辅助的大模型服务AI代码辅助模型角色FillinMiddle补全正负反馈CloudStudioJetBrain全家桶VSCode浏览器插件IDE平台下应用抽象交互编码辅助实现技术沟通 代码排错代码补全 文件生成代码指令工程理解力增强AI评审跨文件上下文的开发辅助向量和对话的生成式脚手架、终端命令

AISE下的单元测试场景走过的弯路AI辅助的端到端软件研发过程自动/辅助完成项目计划制定和排期辅