从内容生产到秩序重塑：生成式AI出版的内容生产风险与规制研究.pdf

2024年第22期总第472期VIEWONPUBLISHING学研

从内容生产到秩序重塑：生成式AI出版的内容

生产风险与规制研究

文/陈雨杨璐颖冯锐

【摘  要】随着生成式人工智能技术的进一步发展，各行各业都受到了冲击和挑战，出版行业总体呈现活跃

的发展态势。然而，生成式AI并不能够真正理解其生成的知识内容，容易出现对用户隐私权的侵犯、

内容品质的低俗倾向以及数据真实性遭受质疑等失范现象。从出版的角度出发，探讨生成式AI出

版存在的伦理风险，有针对性地提出在技术层面加强内容审查共识、在行业算法层面建构多元主

体监督出版的技术框架、在法律层面建立生成式AI出版监管制度、在伦理层面培养正确的主体意

识等多元规制路径，为出版的伦理重建提供思路和指引。

【关  键  词】人工智能；AIGC；内容生产；规制

【作者单位】陈雨，扬州大学马克思主义学院；杨璐颖，扬州大学新闻与传媒学院；冯锐，扬州大学新闻与传媒

学院。

【基金项目】国家社会科学基金青年项目（22CDJ025）；2022年江苏省研究生科研创新基金项目（KYCX22_

3407）；2024年江苏省研究生科研创新基金项目“生成式人工智能的内容生产与认知风险研究”

（KYCX24_3703）。

【中图分类号】G230.7    【文献标识码】A    【DOI】10.16491/j.cnki.cn45-1216/g2.2024.22.009

在科技飞速发展的今天，生成式人工智能规定，但仍有若干细节问题有待深入探讨，如以何

（ArtificialIntelligenceGeneratedContent，AIGC）种出版治理理念协调技术发展与社会需求、社会伦

已经从概念化阶段跃升到现实应用的前沿领域，其理之间的一致性，这是未来出版业需要深入探讨的

深度学习与强化学习技术的革新，正以前所未有的课题。

方式塑造信息生产和传播的方式。从自然语言处理从学术出版理论认识的层面来看，学术出版研

到视觉艺术创作，生成式AI以其强大的创新能力对究已有较为深厚的成果基础，但对内容生产层面风

传统知识生产体系产生了深刻影响，特别是在文学、险与规制的探讨尚显不足，建立在经验主义层面

［1］

新闻及出版行业中表现突出。然而，随着这一技术的学术出版概念也往往存在被窄化的情形。以

的广泛应用，一系列新的伦理挑战也随之出现，尤ChatGPT为代表的生成式AI对学术出版的伦理规范

其是在出版领域中涉及的源数据、原创性、版权归构成了深远且复杂的冲击。截至2023年2月15日，

属、责任认定等核心问题。2023年，国家互联网信仅PubMed数据库已记录4篇标注ChatGPT为作者

息办公室等七部门联合发布《生成式人工智能服务的文章，这昭示着生成式AI技术已悄然“渗透”出

管理暂行办法》，对生成式AI出现的一些问题进行了版界。生成式AI的内容生产可能导致的源数据污

61

学研VIEWONPUBLISHING2024年第22期总第472期

染、作者身份模糊、知识产权侵权风险增加。目后的逻辑，而是基于训练数据中的上下文关联进行

前关于生成式AI出版研究主要集中在版权归属、技概率性预测。生成式AI在应用中面临的明显挑战在

术伦理等。例如：关注生成式AI引发的出版著作权