大语言模型伦理合规与安全防护人工智能安全导论第16次课68课件讲解.pptxVIP

大语言模型伦理、合规与安全防护人工智能安全导论（第16次课）广东机电职业技术学院信息安全教研室

课程目录01伦理与合规问题偏见、隐私、责任与价值观02安全评估实践以CYBERSECEVAL2为例03安全防护机制五大可信属性与深度防御

学习目标核心概念掌握深入理解AI伦理与安全的核心定义，建立扎实的理论基础框架。评估方法实践掌握主流的AI安全评估方法论，能够独立进行风险识别与分析。防护体系构建了解大语言模型(LLM)的安全架构，学习如何构建全方位的防护体系。全方位认知培养培养从单纯的技术视角上升到治理与合规的宏观视角，适应未来工作需求。

PART01伦理与合规问题偏见、隐私、责任与价值观

伦理与合规：从技术到责任的范式转变时代背景：挑战与风险AI技术的爆发式增长带来了日益凸显的伦理与安全挑战：模型偏见与歧视问题用户隐私数据泄露风险算法黑箱与不透明性这些问题正在深刻影响社会信任与技术的可持续发展。范式转变：从能用走向向善我们对AI的要求正在发生质的跃迁：从单纯追求功能的“能用”向更高层次的“可信”和“可控”发展最终实现主动承担社会责任的“向善”这意味着技术必须服务于人类的长远福祉。

偏见与公平性问题偏见来源：数据的镜像大语言模型从海量数据中学习，不可避免地吸收并放大了人类社会中已有的刻板印象和历史偏见。多维偏见类型偏见广泛存在于多个维度：性别与种族歧视文化与宗教偏见地域与身份刻板