人工智能伦理审查分类办法.docVIP

人工智能伦理审查分类办法

一、研发阶段伦理审查

（一）数据采集伦理审查

数据是人工智能的基础，其采集环节的伦理合规性直接影响后续算法的公正性与安全性。在数据采集阶段，需重点审查以下方面：

知情同意机制：审查是否明确告知数据主体采集目的、使用范围、存储期限等关键信息，是否获得数据主体自愿、明确的同意。例如，在人脸识别数据采集中，需确保被采集者清楚知晓数据将用于人脸识别系统训练，且同意授权。对于敏感数据，如医疗健康数据、生物特征数据，需采用书面或电子签名等可追溯的方式获取同意。

数据来源合法性：核查数据来源是否符合法律法规要求，是否存在非法获取、买卖数据等行为。例如，爬虫技术获取公开数据时，需遵守网站的robots协议，不得突破权限获取非公开数据。同时，要审查数据是否涉及知识产权，避免侵犯他人著作权、专利权等。

数据多样性与代表性：评估数据样本是否具有足够的多样性和代表性，避免因数据偏差导致算法歧视。例如，在训练招聘筛选算法时，若数据集中女性样本占比过低，可能导致算法对女性求职者产生偏见。审查需确保数据涵盖不同性别、年龄、地域、种族等群体，以反映真实的社会分布。

（二）算法设计伦理审查

算法设计是人工智能的核心，其逻辑和机制决定了系统的行为和决策结果。此阶段的伦理审查聚焦于算法的公正性、透明度和可解释性：

算法公正性审查：检测算法是否存在歧视性逻辑，是否会对特定群体产生不公平待遇。