生成式人工智能基础 课件 第4章 提示工程与技巧.pptx

;;本章探讨如何通过优化提示设计来提升LLM的性能和输出质量。作为一种新兴技术，提示工程关注于通过精心设计的输入指令引导LLM生成高质量、符合预期的输出。它涉及明确的提示分类（系统提示和用户提示）、提示的构成要素（如指示、上下文、示例等）以及提示调优策略（明确性、简洁性和具体性）。;此外，本章还介绍了多种提示工程技术，包括链式思考提示、生成知识提示、少样本提示、自一致提示和思维树提示，这些方法通过逐步推理、知识整合和多路径探索，帮助模型更好地处理复杂任务和推理问题。同时，文中还探讨了提示学习和语境学习的概念，以及如何通过ICIO、CO-STAR和CRISPE等框架和实践技巧来优化提示词的编写，从而提高与LLM交互的效率和效果。;;PART01;LLM（大语言模型）正在发展成为像水、电一样的AI基础设施。像预训练LLM这种艰巨任务通常只会有少数技术实力强、财力雄厚的公司去做，而大多数人则会是其用户。对一般用户来说，掌握用好LLM的技术更加重要。人们已经运用各种技术来从这些LLM系统中提取所需的输出，其中的一些方法会改变模型的行为来更好地贴近我们的期望，而另一些方法则侧重于增强我们查询LLM的方式，以提取更精确和更有关联的信息。提示、微调和检索增强生成等技术是其中应用最广泛的。;是选择提示工程、微调工程还是检索增强生成方法，取决于应用项目的具体要求、可用资源和期望的结果。每种方法都有其独特的优势和局限性。提示是易用且经济高效的，但提供的定制能力较少。微调以更高的成本和复杂性提供充分的可定制性。检索增强生成实现了某种平衡，提供最新且与特定领域相关的信息，复杂度适中。;本质上，提示是指向LLM提供输入的方法，是与任何LLM交互的基本方式。用户可以把提示看作是给模型提供的指令。当你使用提示时，会告诉模型你希望它给反馈什么样的信息。这种方法有点像是学习如何提出正确的问题以获得最佳答案的方法。但是，用户能从中获得的东西是有限的，这是因为模型只能反馈它从训练中获知

的内容。

图4-1提示是基本交互方式;“提示工程”是促使LLM取得更好结果的艺术和科学??作为一种策略，LLM关注提示词的开发和优化，用于引导LLM生成高质量、符合预期的输出，帮助用户将语言模型用于各种应用场景和研究领域。掌握提示工程相关技能帮助用户更好地了解LLM的能力和局限性。;研究人员可利用提示工程来提高LLM处理复杂任务场景的能力，如问答和算术推理能力以及LLM的安全性。开发人员可通过提示工程设计和实现与LLM或其他生态工具的交互和高效接轨，借助专业领域知识和外部工具来增强LLM的能力。随着LLM参数量的剧增和功能的日益强大，如何有效地与这些模型交互以获取有用的信息或创造性的内容变得尤为重要。;（1）设计有效提示：这是指构造问题或指令的方式，目的是最大化模型的响应质量。这包括选择合适的词汇、句式结构，甚至创造上下文环境，以激发模型展示其最佳性能。比如，通过构建问题-回答对，精心设计的提示可以引导模型输出特定类型的内容，如创意写作、代码编写、专业建议等。

（2）领域知识嵌入：为了提高模型在特定领域的表现，提示工程可能会融入该领域的专业知识。这有助于模型更好地理解和生成与该领域相关的高质量内容，如在化学、生物学或法律等专业领域。;（3）提示优化与迭代：通过不同的提示策略，评估模型输出的质量，并据此调整提示，以达到最优效果。这可能包括A/B测试、迭代改进以及使用自动化工具来寻找最有效的提示形式。

（4）减少偏见与提高一致性：由于LLM也可能承载了训练数据中的偏见，提示工程也致力于设计减少偏见的提示，以及确保模型输出的一致性和可预测性。这可能涉及制定公平性原则，以及使用特定的提示来测试和校正模型的偏见。;（5）利用提示模板和示例：开发一套提示模板和示例，可以作为引导模型输出的起点。这些模板可以根据不同的应用场景进行定制，帮助用户快速上手并获得期望的结果。

（6）模型交互的界面设计：为了让非技术人员也能高效使用LLM，提示工程还包括设计直观易用的用户界面，让用户能够轻松输入提示、调整设置并查看模型的响应。;;LLM通过运用大量的文本数据进行训练，学习语言的结构和模式。例如AI语言模型GPT通过对海量数据的分析，学会了如何在不同语境下生成连贯和有意义的文本。用户在使用LLM时，系统依赖于提示词提供的上下文信息。这意味着，提示词越清晰、越具体，系统越能理解你的意图。;当用户输入提示词后，AI系统会通过以下步骤生成回答：

（1）解析提示词：首先解析输入的提示词，提取关键词和语境。

（2）检索知识库：根据解析结果，从训练数据中检索相关信息。

（3）生成文本：结合上下文和检索到的信息，生成连贯的回答。;每一步都依赖提示词的质量。如果提示词模糊或缺乏具体性，则AI的解析和检索过程就会