人工智能伦理导论 课件 lecture6-偏见歧视问题.pptx

偏见歧视问题Lecture62024/7/231人工智能伦理-古天龙

2024/7/232平等一旦遭到破坏，最可怕的混乱就会随之而来。富人和穷人之间相互劫掠，他们不受约束的欲望压制了天然的同情心的声音，也使得很脆弱的公正受到严重打击，它们带给人们的只有贪婪、野心和邪恶。——卢梭（Jean-JacquesRousseau）人工智能伦理-古天龙

偏见与歧视概念目录偏见歧视案例算法歧视歧视歧视的类型偏见偏见的类型1232024/7/233偏见与歧视概念4偏见歧视治理人工智能伦理-古天龙

歧视的概念5.1偏见与歧视概念2024/7/234歧视（Discrimination）指的是不平等看待，是直接针对某个特殊群体成员的行为。它是人对人就某个缺陷、缺点、能力、出身以不平等的眼光对待，使之得到不同程度的损失，多带贬义色彩，属于外界因素引发的一种人格扭曲。维基百科将歧视定义为：基于人类所属的特殊群体、阶级或被认为的其它属性类别，对人类作出的不合理区别的行为。人们可能会因种族、性别、年龄、宗教或性取向以及其它属性而受到歧视。歧视尤其发生在个人或群体，因其实际或被认为是某些群体或社会类别的成员，而受到比其他人更为恶劣的不公正待遇。它包括限制一个群体的成员享有另一个群体成员可以享有的机会或特权。国际劳工组织的《消除就业与职业歧视公约》中界定：“基于种族、肤色、性别、宗教、政治见解、民族、血统或社会出身的任何区别、排斥或特惠，其效果是取消或损害就业或职业方面的机会平等或待遇平等。”另外，“有关成员在同雇主代表组织或工人代表组织——如果这种组织存在——以及其它有关机关磋商后可能确定其效果为取消或损害就业或职业方面的机会平等或待遇平等的其他区别、排斥或特惠”，也是歧视。“包含得到职业培训的机会、得到就业的机会、得到在特殊职业就业的机会以及就业条件。”人工智能伦理-古天龙

5.1偏见与歧视概念2024/7/235歧视的概念从社会的角度看，歧视是不同利益群体间发生的一种情感反应及行为。歧视一般由歧视方和被歧视方两个利益群体构成。一般情况下，歧视方由于担忧被歧视方对自己的地位、权利、利益、习惯、文化等造成威胁或挑战，而在言论或行为上对被歧视方，进行丑化、中伤、隔离、甚至伤害。歧视实际上是歧视方在寻找说不出口的理由，使不合理、不合法、不公平、不正义的事情维持下去，以达到维护歧视方的地位、权利、利益、习惯、文化的目的。受保护属性/敏感属性：法律规定基于某些特征或属性的歧视行为是违法的，这些特征通常被认为是“受保护的”或“敏感的”属性。美国《公平住房法案》（TheFairHousingAct，FHA）将肤色、残疾、家庭状况、性别、婚姻状态、国籍、种族、宗教等列为受保护的属性；《平等信贷法案》（EqualCreditOpportunityAct，ECOA）将年龄、肤色、婚姻状态、国籍、种族、宗教、政府援助等列为受保护的属性。人工智能伦理-古天龙

5.1偏见与歧视概念2024/7/236歧视的类型歧视可以由三个层次的从属概念来刻画：①什么行为？②什么情况下？③对谁造成了歧视？行为是歧视的表现形式；情况是歧视的作用领域或场景；歧视的理由描述了受到歧视的对象的特征。从造成歧视的理由是否有明确表述的角度，歧视呈现直接性歧视（DirectDiscrimination）和间接性歧视（IndirectDiscrimination）两种主要形式。直接性歧视：由于受保护属性明显导致了某个人或某特殊群体的利益受到损失，由此产生的歧视称为直接性歧视，也称为不平等对待（DisparateTreatment）。因为某个人的宗教信仰特征，房屋户主拒绝将房屋出租给该租房客。这一行为违犯了《公平住房法案》，是一种直接性歧视。间接性歧视:基于看似中立和不受保护的属性来对待某个人或某群体，然而，由于其受保护属性的隐性效应的间接影响，该个人或群体仍然会受到不公正的对待，由此产生的歧视称为间接性歧视，也称为不平等影响（DisparateImpact）。尽管邮政编码似乎是一个不敏感的属性，但它可能与族群有关，因为邮政编码对应居民住宅区，某一居民住宅区的人口往往具有一定的族群属性，这样，某个人的住宅区的邮政编码在用于贷款申请等决策过程时，就可能导致族群歧视。某俱乐部规定进入人员必须出示驾驶证来证明身份，这样就存在对视力受损人员的歧视，因为盲人不可能会持有驾照的，这也是一种间接性歧视。人工智能伦理-古天龙

5.1偏见与歧视概念2024/7/237歧视的类型从歧视的行为是否能够被解释角度，歧视分为可解释性歧视（ExplainableDiscrimination）和不可解释性歧视（UnexplainableDiscrimination）。在某些情况下，歧视可以通过某种正当理