信息安全资料对大模型训练数据安全治理的思考-王峥.pdfVIP

目录

CONTENTS02.训练语料的安全机制

03.对数据安全治理新模式的思考

大模型训练需要哪些数据？

必须澄清的误解：模型训练并不依赖个人信息

训练语料的安全机制

各时代人工智能风险的演进和迭代：AI时代的风险识别

安全是大模型的核心竞争力，阿里巴巴治理的思路与核心技术

对数据安全治理新模式的思考

从模型视角看训练数据的安全治理

训练阶段对数据的使用特点：

•个人信息：模型训练阶段不依赖个信，对公开个信属于合理使用

•版权数据：对版权类语料属于转换性使用，是为了掌握客观规律，构建模型的基础能力，并不是

复制式拷贝，属于合理使用

治理思路的变迁：

•重视数据的可及性：输入端的前置使用限制→输出端的管控和事后救济

•提升数据的供给：鼓励安全类数据集的开放共享

•新技术的应用提升安全性：如合成数据对个信的保护