如果你想更多地了解一个有争议的科学话题——干细胞研究、核能的安全性、气候变化——你可能还在谷歌上搜索。面对多个来源，你可以选择要阅读的内容，选择要信任的站点或机构。

但现在你有另一种选择：你可以向 ChatGPT 或其他生成式人工智能平台提出你的问题，并快速收到段落形式的简洁回复。



ChatGPT不像Google一样搜索互联网。它利用大量的可用在线信息来预测可能的单词组合，从而生成问题的答案。

虽然生成式人工智能在提高生产力方面具有潜力，但已被证明它也存在一些重大缺陷。它会产生错误信息。它会创造“幻觉”，即编造虚假信息。而且它并不总是准确解决推理问题。例如，当被问到汽车和坦克是否都能通过门口时，它没有考虑到宽度和高度。尽管如此，它已被用于生成文章和网站内容，并成为写作过程中的工具。但你不太可能知道你正在阅读的内容是由人工智能生成的。

作为《科学否认:为什么会发生以及如何应对》一书的作者，我们担心，对于那些寻求权威科学信息的人来说，生成式人工智能可能会模糊真实与虚构之间的界限。

每个媒体消费者都需要比以往任何时候都更加警惕，以核实他们所阅读的内容的科学准确性。以下是如何在这个新的信息环境中保持警觉的方法。

生成式人工智能如何促进科学否认

认知信任（epistemic trust）的削弱。所有科学信息的消费者都依赖于科学和医学专家的判断。认知信任是一种相信从他人那里获得的知识的过程。它是理解和使用科学信息的基础。无论是对健康问题获取信息，还是试图了解应对气候变化解决方案，人们往往对科学理解有限并且很少有直接的证据。在快速增长的在线信息体系中，人们必须经常做出关于信任什么和信任谁的决定。随着生成式人工智能的增加和潜在的操纵，我们相信信任下降的可能性会进一步加剧。

误导或纯粹错误。如果AI平台所使用的数据存在错误或偏见，那也会反映在结果中。在我们进行搜索时，当我们要求ChatGPT生成多个相同问题的答案时，我们得到了相互矛盾的答案。当被问及原因时，它回答说：“有时候我会犯错。”也许AI生成的内容最棘手的问题是如何知道它是否错误。

虚假信息故意传播。人工智能可以用来生成引人注目的虚假信息，如文本，以及深度伪造的图像和视频。当我们要求ChatGPT“以虚假信息的方式撰写疫苗”时，它产生了一个不存在的引用，其中包含虚假数据。谷歌前人工智能开发负责人杰弗里·辛顿(Geoffrey Hinton)表示:“很难想象如何阻止坏人利用人工智能做坏事。”制造和传播故意错误的科学信息的可能性已经存在，但现在这种可能性变得危险而容易。

伪造的信息来源。ChatGPT提供的答案往往没有来源，或者如果被要求提供来源，可能会提供虚构的来源。我们都曾要求ChatGPT生成我们自己的出版物清单。我们各自确定了一些正确的来源，但更多的则是虚构的，但看起来很有声誉且大部分都很可信，包括共同作者以及发表在听起来类似的期刊上。如果一个学者的出版物清单给读者传达出权威性，而这些信息没有经过验证，这种创造性将成为一个大问题。

过时的知识。ChatGPT不知道训练结束后世界上发生了什么。当询问世界上有多少比例的人感染了COVID-19时，得到的答案是“据我所知截止日期为2021年9月”。考虑到某些领域的知识发展如此迅速，这种限制可能意味着读者会得到错误的过时信息。例如，如果你正在寻找关于个人健康问题的最新研究，就要小心了。

快速发展和缺乏透明度。人工智能系统继续变得越来越强大，学习速度也越来越快，在此过程中，它们可能会学到更多的科学错误信息。谷歌最近宣布其服务中有25种新的AI嵌入式使用。目前，还没有足够的措施来保证生成式人工智能随着时间的推移将成为更准确的科学信息传递者。

对于AI虚假，你能做些什么？

如果你使用 ChatGPT 或其他 AI 平台，请认识到它们可能并不完全准确。识别准确性的责任落在了用户身上。

提高警惕。人工智能事实核查应用程序可能很快就会推出，但就目前而言，用户必须充当自己的事实核查员。我们推荐一些步骤。首先是：保持警惕。人们经常条件反射地分享从社交媒体搜索中找到的信息，很少或根本没有审查。要知道何时变得更加深思熟虑，何时值得确定和评估信息来源。如果你正在决定如何治疗严重疾病或了解应对气候变化的最佳步骤，请花时间验证这些来源。

改进事实核查。第二步是侧面阅读，这是专业事实核查人员所使用的过程。在新窗口中搜索有关来源的信息（如果提供的话）。来源是否可信？作者是否具有相关专业知识？专家对此有何共识？如果未提供来源或你不确定它们是否有效，使用传统搜索引擎找到并评估该主题的专家。

评估证据。接下来，看一下证据及其与声明之间的联系。有没有证据表明转基因食品是安全的？是否有证据表明它们是不安全的？科学共识是什么？评估声明所需的工作将超出对ChatGPT的快速查询。

如果你从人工智能开始，不要止步于此。使用它作为唯一权威时要谨慎。你可以查看ChatGPT关于转基因生物或疫苗安全性的陈述，但也要在得出结论之前使用传统搜索引擎进行更加认真的搜索。

评估可信度。判断声明是否可信。它是否有可能是真的？如果AI发表了一些难以置信（且不准确）的言论，比如“100万人死于疫苗而不是COVID-19”，考虑它是否有意义。做出暂时的判断，然后在检查证据后开放心态并调整自己的想法。

提升数字素养。每个人都需要提高自己的数字素养，如果你是父母、教师、导师或社区领袖，可以在其他人中提升数字素养。美国心理学协会提供在线信息事实核查的指导，并建议为减少健康和福祉风险，青少年应该接受社交媒体技能的培训。新闻素养项目提供有用的工具来改善和支持数字素养。

用驾驭新的 AI 信息领域所需的技能武装自己。即使你不使用生成式人工智能，你也可能已经阅读了由它创建或从它开发的文章。在线查找和评估有关科学的可靠信息可能需要时间和精力，但这是值得的。

 

来源：https://gizmodo.com/chatgpt-generative-ai-openai-science-denial-1850516570