以批判性思维抵御AI科普中的虚假迷雾

　　作者：王大鹏

　　普渡大学校长米奇·丹尼尔斯曾经写道：“一场大流行病失控肆虐，一种有害甚至致命的瘟疫横扫广大社会。关于其危险性的科学证据是巨大且无可辩驳的。其最严重的伤害施加于年轻人身上，他们最容易受到感染，且其受到的伤害随着时间的推移很可能是不可逆转的。随着社交媒体——更准确地说应是‘反社会媒体’——渗透进社会，对儿童的情感健康、对机构的信任、这些机构应对严峻国家挑战的能力，甚至是分辨真理与常常充满恶意的虚构故事的能力，造成了已证实的、毁灭性的破坏，而我们却无所作为。”

　　当然，丹尼尔斯批评的是社交媒体平台上发布的不实内容，而随着生成式人工智能的大规模应用，这种趋势会更加明显，挑战也会更加巨大。

　　很多人一度把“有图有真相”挂在嘴边，似乎这个古老信条能够证实某些东西是否真实存在，但眼下这种看法正遭受着巨大的挑战。因为图像与视频都可被轻易伪造，视觉证据不再天然可靠，这便在一定程度上动摇了公众对信息真实性的判断基础。

　　当然，生成式人工智能确实为科普内容的生产与传播注入了巨大的活力，这在信息传播的效率、广度与创新性上得以充分彰显。

　　在内容生产层面上，它有助于让专业知识更容易落地，通过快速处理海量数据，将晦涩难懂的科学原理瞬间转化为通俗易懂的图文视频，大幅度降低了科普创作的门槛，同时推动了规模化内容生产，能够快速响应科普需求，遏制谣言扩散；在传播层面上，算法推荐机制则通过精准勾勒用户画像，实现“千人千面”的内容精准适配，让不同年龄、不同背景的受众都能获取相应的科学知识，实现精准触达；而在表现形式上，AI支持文本、图像、视频、3D模型等多模态内容生成，能够打造沉浸式、互动式科普体验，进一步丰富了科普的内容呈现形式，将复杂的科学结构，抽象的科学概念这些“硬核”的内容转化为直观的演示，让人类目力所及之外的极宏观和极微观的“东西”变得触手可及。这些优势，让AI成为破解科普“落地难”、扩大科学知识覆盖面的重要力量。

　　只不过，借助生成式人工智能开展科普也并非完美无缺，它也存在着与生俱来的局限与时代挑战。

　　首先，AI的运行机制本质上是概率统计驱动的语言模式匹配，而非真正的“理解”科学，这导致其生成的科普内容常存在“幻觉”问题——看似逻辑流畅、引用规范，实则包含它自己杜撰的虚假数据或编造的文献，有可能出现“一本正经的胡说八道”。其次，AI科普容易陷入模式化、套路化的困境，缺乏创作者的人文情怀与独立思考，难以传递科学探索过程中的质疑、试错与突破精神，甚至可能简化复杂的科学逻辑，让受众陷入“知识点打卡”的误区，无法真正理解科学方法的核心。再次，AI算法的偏好会加剧数字“回声室”效应，根据用户既有偏好推送同质化科普内容，进一步强化认知偏见，削弱受众接触多元观点的机会，加速批判性思维的退化，让公众在信息茧房中丧失独立判断能力。

　　此外，生成式人工智能还可能被用来进行“深度伪造”。借助生成式算法，机器可以完美合成人物肖像、声音、神态与动作，精准模仿知名科学家、医生、学者的语气与表达习惯，制作出口型同步、画质清晰、逻辑连贯的虚假视频，虽然“高度逼真，肉眼难辨”，但依然是虚假的，错误的，有误导性的。与此同时，它还有可能披上科学外衣，冒用科研机构名称、堆砌专业术语、编造虚假数据，出于非科普的目的扭曲、截取、包装科学——比如伪造某权威机构的“研究报告”，截取科学家的发言断章取义，让非专业人士在看似专业的表达面前放松警惕，不知不觉陷入认知陷阱。

　　从这个角度来说，人工智能算法精准利用了人类天然的心理弱点：厌恶损失、害怕未知、偏爱确定性、依赖直觉、渴望被认同。它不是在讲道理，而是在操控情绪；不是在传播信息，而是在塑造偏好。正如丹尼尔斯所警示的那样，社交媒体在很多时候更像“反社会媒体”。它不断削弱人们分辨真假、理解复杂问题的能力，使人们养成了扫描而非思考的习惯，让情绪取代推理，标题取代事实，表情包取代完整语境。在这种环境中，批判性思维会逐渐衰退，而虚假信息则肆意泛滥。而如果任其蔓延下去，不仅会毁灭公众辨别真理的能力，更会瓦解社会应对重大挑战的共识基础。

　　针对此种情况，单纯依靠事后辟谣、平台删除、技术拦截都只能治标，无法从根本上解决问题。真正能够抵御的，是从内部建立起来的认知防线，也就是每一位信息受众自身的批判性思维。技术可以被绕过，监管可以有滞后，唯有内化于心的理性判断，能够让人在海量信息面前保持清醒，不被带节奏、不被煽动、不被欺骗。因而，我们就需要在科普的过程中不再仅仅是告诉人们“什么是对的”，更要教会人们“如何判断真假”；不再单纯地传播知识，而是要注重培养批判性思维。

　　批判性思维并非天生具备的本能，也不是简单的怀疑一切，而是一种基于证据与逻辑、主动审慎评估信息的理性能力。博纳姆在《科学是怎样败给迷信的》一书中认为：科学的精髓是其方法……强调方法是对科学普及的一个巨大帮助，因为它能使公众不必去执行困难的数学运算和记住多得可怕的大量事实，而无可争辩地掌握真正的科学。而在“后真相”“后信任”“后专家”的时代，科学方法是我们穿越信息迷雾的唯一指南针。它或许不完美，却是人类应对复杂世界挑战、抵御虚假信息侵蚀的最可靠工具。

　　当欣赏具有想象力的文学或戏剧作品时，人们应该持有何种心态？诗人塞缪尔·泰勒·柯勒律治创造了“暂停怀疑”这个词语，他说“愿意暂时停止怀疑，构成了诗意的信仰”。而当暴露于社交媒体呈现出来的内容时，我们不妨“暂停相信”，因为批判性思维的第一步，就是在看到极具冲击力的信息时先停下来，不急于相信、不急于转发、不急于站队，提醒自己：越是让人情绪激动的内容，越要保持警惕，或者借用《拆穿数据胡扯》一书中的观点，“什么东西看起来越像真的，越有可能不是真的”。只有先从情绪中抽离，才能开启真正的思考，避免被虚假信息裹挟。

　　其次，要养成“溯源求证”的本能。真正的科学信息一定有可追溯、可验证、可核查的来源，来自权威科研机构、专业学术期刊、正规媒体或具备资质的专业人士，不要盲目相信“内部消息”“秘密研究”“被封杀的真相”等说辞。面对一条科学信息，先问自己它来自哪里、发布者是谁、有没有可靠资质，无法溯源的信息，一律保持怀疑；对于可疑信息，主动通过权威渠道交叉验证，拒绝“拿来主义”。

　　更重要的是，要学会审视证据链，而不是只看画面。一个结论是否科学，不取决于视频多清晰、“专家”多像真的，而取决于是否有数据支撑、是否有可重复的实验、是否有同行验证。凡事先看证据、查逻辑、交叉验证，才能不被表象迷惑，真正掌握辨别科学信息真伪的能力。

　　当然，批判性思维也意味着愿意主动走出回声室，接纳复杂性。真实的科学世界是有边界的、充满不确定性的，而非绝对化、单一化、非黑即白的。具备批判性思维，就意味着愿意承认自己认知有限，愿意倾听不同观点，愿意在更充分的证据面前改变想法。这种开放与谦逊，恰恰是对抗算法茧房与虚假信息最有力的武器，也是培育科学素养的重要基础。

　　（作者系中国科普研究所研究员）