人工智能应用中数据安全的法律规制分析.pdfVIP

2023年第7期 科技政策与管理 人工智能应用中数据安全的法律规制分析 蔡秉坤 徐小壘 兰州大学法学院，甘肃，兰州，730000 摘 要：数据是驱动人工智能浪潮全面兴起的基础要素之一，数据安全是人工智能安全的核 心。然而，人工智能的高速发展也带来数据安全的风险挑战。文章从个人数据安全风险、 企业数据安全风险等方面总结了人工智能应用中存在的数据安全风险，并分析了人工智能 应用中数据安全的法律规制，从加快数据安全立法和数据确权、数据安全的“穿透式”监管、 数据安全“监管沙箱”、数据安全协同治理等方面提出相关建议。 关键词：人工智能；数据安全；数据确权；“穿透式”监管；监管沙箱 中图分类号：TP309.2  文献标识码：A DOI：10.19881/ki.1006-3676.2023.07.07 一、人工智能与数据安全 人工智能技术已经广泛应用到各个领域，深刻影响着国家政治、经济、社会、国防等各个领 域的运行模式，已成为世界主要国家谋求新一轮国家科技竞争主导权的关键技术。我国非常重视 人工智能发展和数据安全保护，二十届中央国家安全委员会第一次会议强调，要提升网络数据人 工智能安全治理水平、推进国家安全法治建设。对人工智能应用中数据安全的法律规制进行分析， 为人工智能技术健康发展和保障数据安全提供建议，符合国家安全形势和战略要求。 [1] 数据、算法、算力是人工智能的驱动力，其中，数据是人工智能的核心，“数据为体，智能为用”。 一方面，数据为人工智能提供学习样本，人工智能的工作原理是基于大数据集和统计数据驱动的模 式匹配过程 [2]，用于人工智能机器学习的数据集越丰富，质量越高，机器学习的效果就越好。另一 方面，人工智能又提升了数据收集管理能力和数据挖掘利用水平，用户在使用人工智能系统的过程中， 通过端口将数据提供给人工智能服务系统，人工智能就可以从庞大的数据集中精准找到目标数据， 并对其进行深度挖掘分析，进而从中挖掘出有利用价值的信息，以提供精准服务。[3] 数据安全是人工智能技术安全的关键。为人工智能提供学习样本的数据，可以称为“训练 数据”。这些数据是人工智能算法开发者在研发人工智能系统或产品时所赋予的样本数据，其 可能存在数据质量安全、数据投毒攻击等风险，从而导致人工智能学习到错误信息，以致人工 智能在决策时作出错误判断。[3] 此类数据风险主要源于人工智能内在技术的局限性，具有技 术复杂性，并非法律规制所能解决的问题，因此不在笔者的讨论范围之内。人工智能技术滥用 其强大的数据收集和数据分析利用能力导致的数据安全风险，远比人们想象的可怕。人工智能 技术滥用或不当应用导致的数据安全风险，如数据过度采集、数据歧视、数据滥用、数据垄断 作者简介：蔡秉坤，男，1976年生，博士，副教授，研究方向：信托法、公司法。徐小壘（通信作 者），女，1997年生，硕士研究生，研究方向：民商法。 45 2023.7 2023年第7期 科技政策与管理 等数据安全风险及法律规制，是笔者讨论的重点。 会安全带来严峻挑战。[6]