解决企业个性化代码生成准确率的核心实践 - 2024DevOps实践.pdf

中国DevOps社区峰会2024·上海

解决企业个性化代码生成准确率的核心实践

徐磊英捷创软首席架构师

AISE-企业落地AI大模型的端到端解决方案

-AISE方法论提供体系化理论支撑

-AISE产品组合提供最佳实践落地

的平台和工具

-微软AzureOpenAI完整支持

-GithHubCopilot扩展支持

-AISE已经完整适配国产NPU、通

用硬件、操作系统和中间件

-华为晟腾910/310提供端到端性

能和优化

-推理服务全栈支持：TGI、VLLM、

MindIE（华为）

-DeepSeekAPI完整支持

-体系化实施、培训和咨询服务，

为企业落地AI提供端到端保驾护

航

案例：汇丰科技

•2023.6项目启动

•2023.8.9完成AISEv0.3版本内部部署

•2023.8.20全球CIO访华期间完成产品演示，受到认可，准许推广

•2023.9完成AISEv0.4版本内部部署

•2023.10月底推广到个人银行事业部中国区3500人使用，

•2023.10完成模型访问安全性提升和多实例负载均衡改造

•2023.11效能仪表盘上线、提供代码生成和接受率指标

•2023.12提示词库v2(多模型混合调度）和RAG能力上线

案例：博时基金

-定制版插件

-最早适配910B算力

-K8s集群部署

-协助推广，培训

-内部运营

目录

1代码生成中的提示工程原理

2企业真的需要私有化代码训练吗？

3面向开发人员的提示工程技巧

4从智能副驾到智能体–代码生成技术路线

5QA

解构一段真实的代码补全的提示词

解构目标：通过了解构建提示词的过程，优化我们使用SmartCode的方式，以便获得最佳的代码生成效果。

PROMPT-PREFIXFIM提示词格式