论生成式人工智能的数据安全风险及回应型治理(FBM-CLI.A.1350549).docVIP

【法宝引证码】CLI.A.1350549

PAGE/NUMPAGES

下载日期：2023-10-21

论生成式人工智能的数据安全风险及回应型治理

期刊名称：《东方法学》核心期刊

期刊年份：2023

期号：5

页码：106

基金：本文成果获台达集团中达环境法学教育促进计划、党的二十大精神研究阐释专项课题“数字赋能生态治理中国式现代化及其法治保障”、中央高校基本科研业务费专项资金资助；系国家社科基金重大招标项目“加快推进生态治理体系与治理能力现代化研究”（项目批准号：20ZD091）的阶段性研究成果

作者：钭晓东

学科分类：科技法学

作者单位：浙江大学光华法学院浙江大学新时代枫桥经验研究院

专题分类：人工智能

摘要：

生成式人工智能语料库的大规模流动、聚合和分析带来前所未有的数据安全风险，其范围涵盖了数据输入、运算、存储和输出的全过程。这些风险带来的威胁包括但不限于数据主权、意识形态安全、网络安全等方面，甚至危及国家安全。应当革新生成式人工智能数据安全治理范式，实现从单一安全到总体安全、从网络主权到数据主权、从绝对安全到相对安全的理念转变，并在此基础上进行回应型治理：以风险管控、算法透明原则、多层次的数据管理保障机制以及技术、标准与法律三元架构的生成内容治理机制为应对手段，分别对语料库非法获取、恶意算法操控、重要数据泄露、恶意内容生成风险进行治理。应当加强非传统安全领域法治建设，积极参与塑造非传统安全风险治理的国际规范。

期刊栏目：通用人工智能

关键词：生成式人工智能ChatGPT数据安全风险管控数据治理国家安全

英文摘要：

Thelargescaleflow,aggregationandanalysisofgenerativeAIscorpushavebroughtaboutunprecedenteddatasecurityrisksinthedateinput,calculation,storageandoutput.Theserisksmayendangerdatasovereignty,ideologicalsecurityandInternetsecurityevennationalsecurity.TheparadigmofgenerativeAIsdatasecuritygovernanceshouldbereformedtoachieveaconceptualchangefromsingleaspectofsecuritytointegratedsecuritymodel,fromInternetsovereigntytodatasovereigntyandfromabsolutesecuritytorelativesecurity.Aresponsivegovernanceapproachshouldbeadoptedaccordingly.Riskcontrol,principleofalgorithmtransparency,multi-layereddatamanagementandsecuritysystemandathree-tieredframeworkconsistingtechnology,standardsandlawarecombinedtoinstituteagovernancemechanismtohandletheillegalcorpusacquisition,maliciousalgorithmmanipulation,importantdataleakandthemaliciouscontentsgeneration.Thelegalgovernanceofnon-traditionalriskareasshouldbeimproved,anditisencouragedtoactivelyparticipateintheformulationofinternationalrulesonnon-traditionalriskgovernance.

英文关键词：generativeAIChatGPTdatasecurityriskcontroldatagovernancena