生成式人工智能的阶段性数据风险和治理--以ChatGPT4为例.pdf

２０２４年第２期九江学院学报(社会科学版)(总第２１３期)

Ｎｏ.２ꎬ２０２４ＪｏｕｒｎａｌｏｆＪｉｕｊｉａｎｇＵｎｉｖｅｒｓｉｔｙ(ＳｏｃｉａｌＳｃｉｅｎｃｅｓＥｄｉｔｉｏｎ)(ＧｅｎｅｒａｌＮｏ.２１３)

生成式人工智能的阶段性数据风险和治理∗

———以ＣｈａｔＧＰＴ４为例

陈煊

(西南政法大学行政法学院重庆４０１１２０)

摘要:以ＣｈａｔＧＰＴ４为代表的生成式人工智能ꎬ预示了强人工智能时代的到来ꎮ该技术

的多功能性和强大的智能性引发了广泛关注ꎬ然而ꎬ其潜在风险亦不容忽视ꎮ鉴于生成式人

工智能在不同运行阶段的使用主体和所采用的算法有所差异ꎬ故对其进行分阶段风险分析

显得尤为重要ꎮ针对生成式人工智能的数据风险ꎬ文章从其运行逻辑入手ꎬ深入剖析数据收

集、模型训练和输出阶段的运行机制ꎬ并在此基础上ꎬ对各阶段的风险进行了详尽分析ꎮ针

对每一阶段的特点ꎬ文章提出了治理路径:在数据收集阶段ꎬ以开发者为主导ꎬ多方主体协同

参与治理ꎻ在模型训练阶段ꎬ需要开发者与政府采取软硬并施的策略ꎻ在输出阶段ꎬ构建以用

户为中心的内容治理体系ꎮ

关键词:ＣｈａｔＧＰＴ４ꎻ生成式人工智能ꎻ大语言模型ꎻ算法治理ꎻ法律规制

中图分类号:ＴＰ１８ꎻＤ９２２.１７文献标识码:Ａ文章编号:１６７３－４５８０(２０２４)０２－０１２１－(０８)

ＤＯＩ:１０.１９７１７/ｊ.ｃｎｋｉ.ｊｊｕｓ.２０２４.０２.０２１

随着生成式人工智能的不断壮大ꎬ其潜在的了对ＯｐｅｎＡＩ的调查ꎬ越来越多的国家对ＣｈａｔＧＰＴ

法律风险以及对社会的巨大影响也引起了人们的[２]

提出数据安全方面的质疑ꎮ可以说ꎬＣｈａｔＧＰＴ这

关注ꎮ生成式人工智能带来的风险是多方面的ꎬ一大规模生成式人工智能ꎬ是科技发展进程中的

对于算法而言ꎬ有算法风险ꎮ不公开的算法可能一种重要的范式转换ꎬ其风险治理是各方共同关

会引起算法黑箱、算法歧视等风险ꎻ对于数据而注和探讨的热点问题ꎮ２０２３年７月１０日ꎬ国家网

言ꎬ生成式人工智能处理的数据量极为庞大ꎬ开信办等七个部门联合公布了«生成式人工智能服

发过程中的训练数据和用户使用产生的数据等等务管理暂行办法»ꎮ各部门的高度重视意味着我国

数据如果不加以规范ꎬ容易产生数据泄露、数据密切关注了生成式人工智能的新发展并且尝试构

被动出境等数据风险ꎮ除此之外ꎬ生成式人工智建新的监管体系ꎮ与深度综合监管相比ꎬ这一生

能作为新一代人工智能的代表ꎬ其迅速发展也引成型人工智能监管理念的确反映了监管逻辑的更

发了人们对科技伦理、人类主体性、失业等风险新与系统的迭代ꎮ但也要注意到ꎬ«办法»只是提

的担忧ꎮ出了一般的监管思想和监管原则ꎬ还没有对监管

联合国促请所有国家立即执行«人工智能全措施进行细化ꎬ且大型生成式人工智能与以往的

[１]

球伦理框架»ꎮ意大利第一个发布了封杀Ｃｈａｔ－人工智能有不同的运行过程和特有的革新技术ꎬ

ＧＰＴ的公告ꎬ紧接着加拿大隐私委员会网站公布应该结合大型生成式人工智能模型的特点进行

∗基金项目:西南政法大学２０２３年度学生科研创新项目“类ＣｈａｔＧＰＴ人工智能嵌入数字政府建设的价值与风险防控研究”

(编号２０２３ＸＺＸＳ－１６８)ꎮ

收稿日期:２