人工智能技术导论课件 第10章-人工智能大模型安全.pptxVIP

;;依据输入输出模态进行分类

自然语言处理领域的大语言模型（LargeLanguageModels，LLMs）

计算机视觉领域的大视觉语言模型（LargeVisionLanguageModels，LVLMs）

融合多种媒体形态的多模态大语言模型（MultimodalLargeLanguageModels，MLLMs）;大模型的涌现能力

参数规模达到某一临界值后，模型会表现出前所未有的新能力，如复杂逻辑理解、多步骤推理等。;大模型的训练流程

预训练（pre-training）

微调（fine-tuning;6;7;8;9;10;11;;大模型幻觉的分类;大模型幻觉的分类;大模型幻觉的分类;大模型幻觉的诱因;大模型幻觉的诱因;大模型幻觉的检测与量化评估;大模型幻觉的检测与量化评估;大模型幻觉的检测与量化评估;大模型幻觉的检测与量化评估;大模型幻觉的检测与量化评估;大模型幻觉的检测与量化评估;数据;;训练;27;28;;提示词与提示注入攻击;提示词与提示注入攻击;直接与间接提示注入攻击;直接与间接提示注入攻击;目标劫持与提示泄露;目标劫持与提示泄露;越狱提示;越狱提示;越狱提示;传染性越狱;40;面向提示词输入的过滤防御;通过指令防御;后置提示防御（忽略防御、逃逸防御）

;指令加密;;;直接数据投毒：通过恶意注入或修改一小部分预训练、微调或偏好学习数据来操纵大模型响应。