大语言模型与安全课件：大语言模型的内部安全威胁.pptx

大语言模型的内部安全威胁

大语言模型的毒性与偏见1

1.1毒性与偏见定义3大语言模型开发与应用中的毒性（Toxicity）与偏见（Bias）是两种研究最广泛、用户感受最明显的内部安全威胁。这两种威胁不仅直接影响模型的性能表现和用户的交互体验，更重要的是，随着各行各业逐步推出并应用专属的大语言模型，其潜在的负面影响将渗透到社会层面，可能引发或加剧社会矛盾，对公共舆论、文化认知乃至个体福祉构成深远挑战。毒性主要表现为模型生成有害或冒犯性内容，而偏见则体现为系统性的不公平处理。两者共同构成了模型安全对齐（SafetyAlignment）过程中必须解决的核心问题。未能有效控制这两种威胁，将严重削弱