探索训练数据偏见对算法公平性的挑战.pptxVIP

训练数据偏见：算法公平性的隐形威胁1

目录01第一章训练数据偏见：算法公平性的隐形威胁02第二章算法公平性的理论框架03第三章偏见传递的算法机制分析04第四章数据偏见检测的实践方法05第五章案例深度分析：偏见如何影响算法决策06第六章构建公平性算法的未来路径2

01第一章训练数据偏见：算法公平性的隐形威胁3

第1页训练数据偏见的基本概念训练数据偏见是指算法学习过程中因非随机性偏差导致的决策不公。例如，某招聘AI系统在分析简历时，因历史数据中男性工程师占80%，学习到工程师=男性的关联，导致女性简历通过率从70%降至30%。偏见主要源于数据采集、标注或选择过程，分为三类：代表性偏差（如某城市数据集忽略农村特征）、标注偏差（人类标注者对特定群体用词带有偏见）和采集偏差（如监控摄像头对特定肤色人群采集率低）。算法基于训练数据学习模式，若数据有偏见，算法决策自然传递偏见。美国平等就业机会委员会报告显示，83%的AI招聘工具存在性别偏见，仅因简历中无性别标识的技能描述被错误关联到性别。4

第2页训练数据偏见的现实案例1算法招聘偏见某科技公司AI筛选简历淘汰女性候选人，因历史数据中男性主导职位描述，算法学习到性别与职位经验的强关联，导致女性简历通过率从70%降至30%。案例发生在2021年，涉及公司5000名求职者，最终面临《平等就业机会法》诉讼。2金融信贷偏见某银行AI信贷