通用人工智能的数据风险及法治应对路径.pdf

第24卷第5期北京工业大学学报(社会科学版)Vol.24No.5

2024年9月JOURNALOFBEIJINGUNIVERSITYOFTECHNOLOGY(SOCIALSCIENCESEDITION)Sep.2024

DOI:10.12120/bjutskxb202405131

通用人工智能的数据风险及法治应对路径

马治国,张摇楠

(西安交通大学法学院,陕西西安摇710049)

摘摇要:ChatGPT的横空出世拉开了通用人工智能的时代序幕。通用人工智能迭代泛化能力的实现依

托于海量数据,其运行全程与数据深度耦合,伴生了新的数据风险,且随着模型的普适化应用可能演化

为现实威胁并产生严重后果。运用“全周期管理冶理念剖析通用人工智能的输入、加工、输出环节存在的

数据风险,包括多源数据违规获取风险、数据利用存储安全风险、数据虚假生成质量风险。在此基础上,

围绕法律规制、伦理引导和行政监管的三重路径构建数据风险治理框架,提出中国应从完善保护利用并

举的数据法律制度、健全科技向善导向的技术伦理规范、设计注重风险防控的行政监管规则等方面,化

解模型“输入—加工—输出冶进程中产生的数据风险,从而推动通用人工智能的良性健康发展。

关键词:通用人工智能;ChatGPT;数据安全;风险管控;法律治理

中图分类号:D922郾17;TP18文献标志码:A文章编号:1671-0398(2024)05-0131-12

摇摇习近平总书记强调人工智能是引领新一轮科技革命和产业变革的战略性技术,具有溢出带动

[1][2]

性很强的“头雁冶效应。通用人工智能作为能够应对跨领域任务的人工智能,具备一般场域的

[3]

应用能效、通用任务的处理能力和持续学习的更新能力,是推动数字中国建设、促进产业创新的

“智慧动能冶。2023年,通用人工智能主要形态ChatGPT的商业化广泛运用引发了全球热议,呈现

出高度自主的全局处理能力,这一颠覆性创新离不开海量、多源数据的“喂养冶。数据贯穿通用人

工智能运行全周期的同时,因模型随即而来的大规模应用,从而使相伴而生的数据风险存在不确定

性、复杂性、扩散性的特征。2023年4月28日,中共中央政治局召开会议,强调“要重视通用人工

淤

智能发展,营造创新生态,重视防范风险冶。因此,我国在推动通用人工智能发展的同时,必须时

刻警惕数据挑战,厘清数据安全治理目标,构建体系化的风险治理框架,促进通用人工智能良性健

康发展。

当前,我国通用人工智能运行进程中的数据安全治理体系尚处完善阶段,2021年6月10日,

第十三届全国人民代表大会常务委员会第二十九次会议通过《中华人民共和国数据安全法》;2023

年7月10日,中华人民共和国国家互联网信息办公室联合国家发展和改革委员会等七部门公布

《生成式人工智能服务管理暂行办法》(简称《暂行办法》)。然而,我国在确保通用人工智能安全

可控的获取与利用数据过程中仍面临挑战,分类分级管理、数据安全保护义务、合理使用等具体规

收稿日期:2024鄄03鄄19

基金项目:中国法学会民法学研究会青年学者研究项目(2023MFXH006)

作者简介:马治国(1959—),男,西安交通大学知识产权研究院院长,法学院教授,博士生导师;

张摇楠(1990—),女,西安交通大学法学院博士研究生。

淤摇https:椅/yaowen/2023鄄04/28/content_5753652.htm。

131

2024年北京工业大学学报(社会科学版)

则尚需在实践中进一步厘清。学界关于通用人工智能(包括生成式人工智能)风险的研究多数聚

焦于整体