AI炮制了谣言,科普如何破局.pdf

新科苑

AI炮制了谣言，科普如何破局

文/大鹏

当人们还在探讨人工智能大模型会给生活带来哪些便内容智能分析”的来源，其实，这里面涉及两个“细思

利的时候，殊不知AI已经开始干坏事了。比如，AI换脸技恐极”的问题。其一是，如果该假消息全部为人工智能所

术引发的不法事件。科普也未能幸免。近日，一则“十大为，那么未来会发生更多的类似情况，我们也将处于危险

致癌卫生巾黑名单”的文章在全网疯狂传播，再加上部分的境地。其二是，未来AI有可能成为一个虚拟的“背锅

博主未经核实就进行解读，更是起到了推波助澜的作用，侠”。无论哪一种情况，都是我们不愿意看到的。

最后只能由官方出面澄清：此消息为AI生成。为了避免产生更多的谣言和伪科学，人工智能生产平

人工智能时代，科普该怎么破局？消费者又该如何增台需要加强与辟谣平台的互联互通。同时，对于人工智能

强信息辩识能力，识破虚假信息？在人工智能大模型的训生产出来的素材，社会应该引人专家审核的环节。这种审

练和应用过程中，科普又应该发挥哪些方面的作用？查不仅仅包括内容的科学性，还包括是否存在隐藏的意识

人工智能确实在很大程度上便捷了我们的生活，但是形态问题，以及是否符合科研伦理的问题等。这对于审核

人类在享受便捷性的同时，也要从科技向善的维度给它备专家来说，是一个重大挑战。

好“刹车”。如今，我们生活在一个完全依赖科技的社会再次，对于受众而言，增强辨伪防骗的能力就变得更

中。很多人认为只要付费，科技就会像魔法一样为我们带加重要。这也是我们一直倡导科普要从知识补课转向价值

来想要的结果。这在某种程度上也印证了亚瑟·克拉克爵引领的一个重要原因。毕竟相较于知识来说，我们更需要

士那条广为人知的“定律”：任何足够先进的技术都与魔的是科学思维、科学方法、科学精神、科学态度和科学理

法无异。性，更需要的是在关键时刻能够找到自己所需的信息和知

首先，从科普工作本身来说，社会需要将相应的工识的能力，是对呈现在自已面前的事实和观点进行区分的

作前置，不能临时抱佛脚。我们应该既让公众知晓人工智能力，以及对于信誓旦旦的表述多问几个为什么的意识和

能给社会经济带来的好处，也需要说明它给我们带来的挑能力。

战。同时，还应该让公众了解人工智能有可能会导致“信最后，对于AI平台来说，相关机构应该主动承担起社

息失序”，产生误导信息、虚假信息和恶意信息。会责任，在“踩油门”的同时要备好“刹车”。面临AI炮

其次，从人工智能大模型训练的角度来说，我们需要制的谣言和伪科学，科普不能无所作为，但是光靠科普也

增加多元性的信息，尤其是科学内容的“投喂”。曾经有很难产生较好的效果。科技向善、企业社会责任不能停留

人这样形容人工智能的投人一产出模式：它不像奶牛那样在口头上和纸面上，而是要落实到实际行动上，与用户共

吃草产奶，而是吃啥产啥。如果人类“投喂”的素材本身同构筑起健康、理性的人工智能应用平台。

就存在偏差，就不可能期待它产出正确的结果。

“十大致癌卫生巾黑名单”的内容上标注了“全网（作者系中国科普研究所副研究员）

68中国科技财富12024年第4期