行业简报：大模型幻觉对互联网信息的影响：深度解析大模型幻觉污染，互联网信息生态将迎来哪些挑战与变革？.pdf

行业简报

大模型幻觉

对互联网信息的影响

深度解析大模型幻觉污染，

互联网信息生态将迎来哪些挑战与变革？

企业标签：深度求索DeepSeek、OpenAI、阿里通义、文心一言

AI变革行业创新发展

ChinaLargeModelIndustry

中国ビッグモデル産業

撰写人：陈庆民

报告提供的任何内容（包括但不限于数据、文字、图表、图像等）均系头豹研究院独有的高度机密性文件（在报告中另

行标明出处者除外）。未经头豹研究院事先书面许可，任何人不得以任何方式擅自复制、再造、传播、出版、引用、改

编、汇编本报告内容，若有违反上述约定的行为发生，头豹研究院保留采取法律措施、追究相关人员责任的权利。头豹

研究院开展的所有商业活动均使用“头豹研究院”或“头豹”的商号、商标，头豹研究院无任何前述名称之外的其他分支机构

，也未授权或聘用其他任何第三方代表头豹研究院开展商业活动。

1

头豹研究院

团队介绍

头豹是国内领先的行企研究原创内容平台和创新的数字化

研究服务提供商。头豹在中国已布局3大研究院，拥有近

百名资深分析师，头豹科创网()拥有20万

+注册用户，6,000+行业赛道覆盖及相关研究报告产出。

头豹打造了一系列产品及解决方案，包括数据库服务、行

企研报服务、微估值及微尽调自动化产品、财务顾问服务、

PR及IR服务，研究课程，以及分析师培训等。诚挚欢迎各

界精英与头豹交流合作，请即通过邮件或来电咨询。

报告作者

袁栩聪

首席分析师

oliver.yuan@L

陈庆民

行业分析师

qingmin.chen@

头豹研究院

咨询/合作

网址：

电话（袁先生）

电话（李先生）

深圳市华润置地大厦E座4105室

行业研读|2025/02中国：人工智能系列

大模型幻觉对互联网信息的影响——背景介绍

•大模型制造的虚假信息正在严重侵蚀互联网信息的质量和可信度，导

致虚假新闻泛滥、学术诚信受损，并对社会信任和公共安全构成一定

程度上的威胁

大模型幻觉问题对互联网信息质量影响背景分析

❑大模型幻觉对互联网信息影响背景介绍

◼大模型幻觉定义

大模型”幻觉”（Hallucination）：大模型“幻觉”指的是生成式AI（如语言模型、图像生成模型）在输出内容

时，生成虚假或误导性的信息，这一技术缺陷可能导致系统生成的内容无法真实反映事实，或以误导性的

方式呈现信息。幻觉通常发生在模型推理过程中，尤其是当生成内容缺乏足够的上下文或真实数据支持时。

◼大模型幻觉内容对互联网信息的影响

大模型幻觉内容对互联网信息的影响指的是大模型生成的虚假或误导性信息对互联网信息的可信度、传播

效率以及社会认知的侵蚀。随着信息量的增加和传播速度的加快，虚假信息的扩散对公众决策、社会信任

以及行业合规性带来深远影响。

❑大模型幻觉对互联网信息影响现状

MCN机构正在通过AI生成虚假新闻，扰乱网络秩序

1

目前，一些MCN（多频道网络）机构利用AI生成大量虚假新闻，广泛传播并在多个网络平台上迅速扩

散。例如，2024年江西南昌的一家MCN机构通过AI软件生产虚假文章，最高可达每日4,000至7,000篇。

这些文章通常内容逻辑混乱、语言空洞，严重误导公众的判断和认知，进而扰乱了网络信息的正常秩

序。虚假新闻不仅仅是信息质量低下的问题，它还可能与电信诈骗等违法犯罪活动相关，进一步加剧

了社会治理的复杂性。因此，AI生成的虚假新闻不仅破坏了互联网的内容生态，也在一定程度上引发

了社会安全风险。

A