ChatGPT模型的舆论风险及应对策略研究.pdfVIP

shiting 专题：ChatGPT的挑战与应对 ChatGPT模型的舆论风险及应对策略研究 ◎李御任 翟红蕾 摘要：美国人工智能研究公司OpenAI推出的聊天机器人ChatGPT引发广泛关 注，其基于人工智能大型语言模型学习和训练，能够生成类似人类的文本反应。然 而，ChatGPT也存在诸多舆论风险，主要包括意识形态风险、生成虚假信息、内容监 管和审核难度加大、引发人肉搜索和网络暴力等问题。对此，应当强化技术落地，占 领舆论高地，完善监管机制，加强AI层面立法，开展类ChatGPT伦理认知训练，并建 立网络暴力和虚假信息识别机制，提高类ChatGPT人工智能机器人的水准和安全性。 关键词：ChatGPT模型；舆论；风险；应对策略 世界著名媒体文化研究者和批评家尼尔 ·波兹曼 微调，从而获得更加个性化和准确的回应。事实上， 较早对技术的发展提出质疑，他强调技术的两面性， ChatGPT火爆的背后，是人工智能生产内容 （Artifi⁃ 指出每一种技术都既是包袱又是恩赐，不是非此即彼 cialIntelligenceGeneratedContent，AIGC）时代的到 ① 的结果，而是利弊同在的产物。 媒介技术的革新为 来。AIGC被认为是PGC、UGC之后诞生的新型内容 人们带来便利的同时，也引发我们思考其背后的隐 生产方式，其具有使用门槛低、效率高、应用场景广 患。舆论工作是影响社会和谐发展的重要力量，历史 泛等优点。以ChatGPT为代表的AIGC技术，依靠强 与现实反复告诉我们，舆论导向正确是党和人民之 大的AI模型和海量数据，初步具备了 “智慧”，改变 福，舆论导向错误是党和人民之祸。美国人工智能研 了人与计算机进行互动的方式，使人工智能系统在更 究公司OpenAI推出的由人工智能技术驱动的自然语 广泛的任务中更加容易上手。 言处理工具ChatGPT，能够理解和学习人类语言并与 事实上，AIGC早在20世纪50年代就已具备雏 人类进行对话，甚至能完成新闻、剧本等内容输出任 形。1950年，计算机科学之父艾伦·麦席森·图灵提出 务。目前来看，ChatGPT存在散播虚假信息、内容监 著名的“图灵测试”，即如果一台机器能够与人类展开 管和审核难度加大等舆论风险，需要引起高度重视， 对话（通过电传设备）而不能被辨别出其机器身份，那 确保舆论工作导向正确。 么称这台机器具有智能。在这一时期，AIGC研究主要 局限于模板和规则的学习，聚焦理论和实验层面。直 一、ChatGPT模型的内在逻辑 到1966年，世界第一台可人机对话机器人“Eliza”诞生， 2022年11月，美国OpenAI公司发布人工智能聊 AIGC在实践层面取得突破。囿于技术发展的限制，该 天机器人ChatGPT，引起社会各界广泛关注。ChatG⁃ 时期AIGC的研究与应用局限于实验室，只能回答研究 PT发布不到3个月，其月活跃用户就已经超过1亿 者事先设定好的答案。20世纪90年代之后，计算机技 人，超越TikTok、Facebook、Instagram等热门应用， 术取得突破性进展，AIGC开始模仿人脑进行大量数据 成为史上用户数增长最快的应用。ChatGPT基于 的标记和训练，并由实验阶段向实用阶段转变，微软公 Transformer架构，嵌入了人类反馈强化学习以及人工 司推出同声传译工具，实现中英文语音实时转换。 监督微调功能，因而具备了理解上下文、连贯性等诸 2010年前后，深度学习算法不断更新迭代，人工智能生 多先进特征，能够对给定的问题和提示生成类似人类 产内容百花齐放，直到2022年11月，美国OpenAI公司 的文本反应，并能执行广泛的自然语言处理任务，如 发布人工智能聊天机器人ChatGPT，使得AIGC取得 文本分类、文本生成和回答问题，解锁了海量应用场 新的突破。以ChatGPT为代表的生成式AI的崛起是 景。ChatGPT还可以在特定的任务和领域中自动进行 人工智能