《大模型导论》通识课版 张玉宏教材 ppt课件 第10章 大模型认知边界与安全对齐.pptx

第10章大模型的认知边界与安全对齐从“是否真正理解”到“如何安全有用”“大型AI模型的进步是显著的，但确保这些系统符合人类价值观并且安全使用是至关重要的。—ElonMusk认知边界多模态表征安全攻击人类对齐超级对齐本章既是技术章节，也是伦理与安全章节。

本章要回答的三个问题认知、风险、对齐问题一：模型是否真正理解？章鱼测试提出了“形式”与“意义”的区分：模型可能很会模仿语言形式，却未必拥有经验基础和世界理解。问题二：模型为什么会不安全？提示词越狱、视觉对抗样本、提示词注入、无限循环输出等案例说明：大模型的能力越强，攻击面也越复杂。问题三：如何让模型与人类价值一致？人类对齐、RLHF、可