大模型原理与技术-课件 chap13 基于大模型的智能软件研发.pptx

基于大模型的智能软件研发;

o基于大模型的智能软件研发框架

o智能软件研发中的大模型及预训练范式

l常用大模型

l预训练范式

o智能软件研发的下游任务

l程序语言PL相关任务

l自然语言NL相关任务

l程序语言与自然语言交互任务

o常用数据集

l预训练数据集

l下游任务数据集

o思考

;

3;

oLLM4SE（LargeLanguageModelforSoftwareEngineering）:使用具有少量标签的软件工程下游任务数据，通过微调已有大模型构建的针对软件研发中各种编程任务的智能模型

o具体的构建过程主要包括：;

基于大模型的智能软件研发框架;

6;

常用大模型;

8;

9;预训练—特征表示预训练—微调;

11;12;

程序语言PL相关任务

o代码片段分类(CodeSnippetsClassification):通过基于大模型的智能方法捕获代码片段中丰富的语法和语义信息，以预测代码片段的类型，为开发者提供有用的分类信息，帮助开发者更好地理解代码。

o该任务常用的性能评价指标有：Accuracy、Precision、Recall、F1-Measure、AUC、MCC(Matthews

CorrelationCoefficientscore);

程序语言PL相关任务

o程序修复(ProgramRepair):采用不同的技术自动生成修复缺陷代码片段。为了提高程序修复的性能，软件工程领域部分研究者利用大模型来学习成对的代码片段的语法与语义信息，并将该信息应用到程序修复任务中。

o该任务常用的性能评价指标有：ExactMatch(EM)、Numberoffixedbugs、BLEU(BilingualEvaluationUnderstudy)等。;

程序语言PL相关任务

o代码补全(CodeCompletion):基于上下文代码信息实时建议下一个可能的符号，例如类名、方法名等，用以补全代码片段，加速软件的开发。大模型技术可以通过上下文代码规律解决代码补全任务。

o该任务常用的性能评价指标有：EditSIM(EditSimilarity)、ExactMatch(EM)、Perplexity等。;

程序语言PL相关任务

o程序语言迁移(ProgramTranslation):即程序语言翻译任务，是利用模型将源语言???写的代码作为输入翻译为等效的目标语言编写的代码，翻译后的代码语义应该与输入的代码完全匹配。因此，将大模型引入到程序语言迁移任务中，提升程序语言迁移任务的性能。

o该任务常用的性能评价指标有：BLEU、ExactMatch(EM)、CodeBLEU等。;

17;

自然语言NL相关任务

o软件工程相关文本分类(SoftwareEngineering-RelatedTextClassification):采是通过基于大模型的智能方法，捕获软件工程相关文本（如问题报告、代码提交及评论等）的编码表示来预测文本的类型，如问题报告的分类、APP评论分类和文本情感分类等，为开发者提供有用的分类信息，帮助开发者更好的理解软件工程领域的文本信息。;

自然语言NL相关任务

o软件工程相关文本分类(SoftwareEngineering-RelatedTextClassification):采是通过基于大模型的智能方法，捕获软件工程相关文本（如问题报告、代码提交及评论等）的编码表示来预测文本的类型，如问题报告的分类、APP评论分类和文本情感分类等，为开发者提供有用的分类信息，帮助开发者更好的理解软件工程领域的文本信息。

o该任务常用的性