生成式人工智能研究进展.pdfVIP

园书与情報2024年第4期

·前沿与热点·

生成式人工智能研究进展*

王美权12

王芳12朱学坤1.2刘清民1,2张馨月1,2杨天德1,2马鑫12张超1.2

岳之楠1.2

（1.南开大学商学院信息资源管理系300071)

天津

(2.南开大学网络社会治理研究中心天津30071)

摘要：快速地技术选代与广泛应用表明生成式人工智能在驱动经济社会发展方面具有巨大潜力，但同时它也可

能带来多种挑战与风险。在系统回顾相关学术文献的基础上，文章梳理了生成式人工智能的关键技术、技术发展历

程及应用场景，分析了生成式人工智能在数据训练、算法模型、内容利用等方面存在的风险，总结了生成式人工智

能风险治理的策略，包括实施全生命周期的数据质量控制，提高AI风险治理的技术能力，对组织结构进行适应性优

化，强化问责机制和标准约束，同时提出未来生成式人工智能发展应坚持发展创新与风险治理并重的原则，完善政

策法规与技术标准体系，建立多元包容的国际合作共治体系，充分激发企业活力。本文可以为生成式人工智能领域

的学术研究、技术开发和政策制定提供参考借鉴。

关键词：生成式人工智能；大语言模型；风险治理;AIGC；AI幻觉；政策分析

中图分类号：G354.5文献标识码：AD01:10.11968/tsyqb.1003-6938.2024045

ProgressinGenerativeArtificialIntelligenceResearch

AbstractTherapiditerationandwideapplicationofgenerativeartificialintelligence(GAI)technologyhavedemon-

strateditsimmensepotentialindrivingeconomicandsocialdevelopment.Atthesametime,italsobringschallenges

andrisks.Basedonacomprehensivereviewofrelevantliterature,thispaperidentifiesthekeytechnologies,develop-

menthistory,andapplicationscenariosofGAI,analyzestherisksindatatraining,modelbuilding,andcontentgenera-

tion,summarizestheriskgovernancestrategiesforGAI,suchasimplementingdataqualitycontrolthroughouttheentire

lifecycleofGAI,enhancingtechnicalcapabilitiestomanageAIrisks,optimizingorganizationalstructuresforadaptabil-

ity,andstrengtheningtheconstraintsbyaccountabilitymechanismandtechnicalstandards.Additionally,thispaper

proposesthatthefuturedevelopmentofgenerativeartificialintelligenceshouldadheretotheprincipleofbalancing

innovationwithriskmanagement,improvethesystemofpolicies,regulations,andtechnicalstandards,establishadiverse

andinclusiveframeworkforinternationalcooperationand