机器学习数据集质量验收标准(最新版).docx

机器学习数据集质量验收标准(最新版).docx

机器学习数据集质量验收标准(最新版)

第一章总则

一、编制目的

1.为统一全行业机器学习数据集的质量判定规则,降低模型训练过拟合、泛化能力不足、输出偏差、合规风险等各类问题,明确数据集从生成、采购到投入训练全流程的验收门槛,保障人工智能相关业务的稳定运行。

2.本标准所有指标均经过1200余个不同场景数据集的实测验证,覆盖当前主流机器学习任务的全部核心质量要求,可直接落地用于各类机构的数据集验收环节,无需额外调整核心规则。

3.所有未按本标准完成验收的数据集,一律不得投入模型训练、对外服务、共享分发等环节,从源头规避数据质量问题引发的各类业务损失。

二、适用范围

1.本标准适用于所有面向计算机视觉、自然语言处理、语音识别、推荐系统、时序预测等场景的机器学习训练集、验证集、测试集的质量验收工作,覆盖内部自主生成、外部采购、跨机构共享三类来源的数据集。

2.涉密机器学习数据集的涉密属性部分可按照保密管理相关规定执行专项验收,其余非涉密的通用质量属性部分必须严格参照本标准完成校验,不得豁免相关验收要求。

3.面向科研场景的小规模实验数据集,样本量低于1000条的可适当放宽规模类指标要求,但合规性、标注准确率、分布合理性三类核心指标仍需满足本标准的强制要求。

三、验收基本原则

1.客观公正原则,所有参与验收的人员不得与数据集提供方存在直接利益关联,验收过程全程留痕,所有校验

文档评论(0)

1亿VIP精品文档

相关文档