人工智能（AI）产生幻觉并非新鲜事。近年来，人工智能在各个领域突飞猛进，能够胜任许多原本只有人类才能完成的任务。但是，幻觉却是一个严重阻碍AI发展的问题。开发者们提醒说，AI模型有时会编造出完全错误的事实，并用捏造的答案回答问题，仿佛它们是真实的一样。这样不仅会降低应用程序的准确性、可靠性和可信度，也会给开发和部署AI系统带来巨大挑战。因此，从事AI的人员正在积极寻求解决这个问题的办法。本文将探讨AI幻觉带来的影响和危害，以及用户可以如何采取一些措施，以降低传播错误信息的风险。



人工智能幻觉是什么？

人工智能幻觉指的是AI模型生成出与期望不一致的结果的现象。需要注意的是，有些AI模型被特意设计成可以无视真实世界输入（数据）而随意输出。

幻觉这个词描述了AI算法和深度学习神经网络造出不真实的、与算法训练数据不相符的、或者没有任何明显规律的结果的情形。

AI幻觉有很多种表现形式，从编造假新闻报道，到对人物、历史事件或科学事实做出错误陈述或文档。比如，一个像ChatGPT这样的AI程序可以捏造一个拥有完整生平和成就的历史人物，而这些都是子虚乌有的。在当今社交媒体和即时通信的时代，一条微博或论坛帖子就能在短短几秒内影响数百万人，这样的错误信息迅速扩散的风险格外严重。

人工智能幻觉是如何产生的？

对抗性样本——即能够诱导AI程序误判的输入数据——是导致AI幻觉的原因之一。比如，开发者用数据（如图片、文字或其他形式）来训练AI系统；如果数据被篡改或变形，应用程序就会对输入有错误的理解，并输出错误的结果。

在像ChatGPT这样的大型语言模型中，由于变换器解码（机器学习模型）不合适，也可能出现幻觉。变换器是AI中一种深度学习模型，它利用自注意力（句子中词语之间的语义关联）来生成类似人类写作风格的文本，它采用了一个编码器-解码器（输入-输出）结构。

在幻觉方面，如果一个语言模型基于充分和正确的数据和资源进行训练，那么它输出的内容就会是虚构和错误的。语言模型可能会创造出一个没有逻辑或含糊不清的故事或陈述。

如何识别AI幻觉

计算机视觉是人工智能的一个子领域，它的目标是教会计算机如何从视觉输入，例如图片、绘画、电影和现实生活中获取有用的信息。它是在训练计算机像人类一样感知世界。但是，由于计算机不是人类，它们必须依赖算法和模式来“理解”图像，而不能直接感受人类的感知。因此，一个AI可能无法分辨薯片和变色的树叶。这种情况也符合常识判断：与人类可能看到的相比，一个AI生成的图像会有差异。

如果人工智能不是正在快速地渗透到日常生活中，所有这些都会显得可笑和滑稽。自动驾驶汽车就已经使用了AI，而幻觉可能造成致命后果。虽然还没有发生过，但在现实世界中开车时错认物体是一场等待发生的灾难。

以下是一些在使用热门的AI应用程序时检测AI幻觉的技巧：

1、大型语言处理模型

大型处理模型（如ChatGPT）生成的信息中很少出现语法错误，但如果出现了，就应该警惕幻觉。同样地，当文本生成的内容没有逻辑、与提供的上下文不一致或与输入数据不相符时，也应该警惕幻觉。

2、计算机视觉

计算机视觉是人工智能的一个分支，它结合了机器学习和计算机科学，使机器能够像人眼一样识别和理解图像。它们依赖于卷积神经网络中的海量视觉训练数据。

如果用于训练的视觉数据模式发生改变，就会导致幻觉。比如，一个计算机如果没有见过网球的图片，就可能把网球错认为是绿色或橙色的。如果一个计算机把一匹站在人像雕塑旁边的马误认为是真马，它也可能出现AI幻觉。

把生成的输出与人类正常预期看到的内容进行对比，可以帮助你发现计算机视觉的幻觉。

3、自动驾驶汽车

借助AI的推动，自动驾驶汽车在汽车行业中逐渐流行起来。像福特的BlueCruise和特斯拉自动驾驶这样的自动驾驶汽车领导者推动了这一进程。你可以通过看看特斯拉自动驾驶是如何利用感知和识别来学习一些AI驱动自动驾驶汽车的知识。

幻觉对人类和AI模型的影响是不一样的。AI幻觉是指与现实大相径庭或在给定场景下毫无意义的错误结果。比如，一个AI聊天机器人可能会语法或逻辑错误地回答问题，或者由于噪声或其他结构问题而错误地识别一个物体。

不同于人类的幻觉，AI幻觉不是有意识或潜意识造成的。而是由于用于训练和设计AI系统的数据不充分或不准确所致。

在使用生成性AI输出进行重要决策时，必须考虑到AI幻觉的风险。虽然AI可以是一个有益的工具，但它应该被当作一个需要人类仔细检查和确认的草稿。随着AI技术的进步，重要的是要批判地和负责地使用它，同时要意识到它的局限和造成幻觉的可能性。通过采取必要的预防措施，你可以利用它的能力，同时保证数据的准确性和完整性。

 

来源：https://www.marktechpost.com/2023/06/27/what-is-ai-hallucination-what-goes-wrong-with-ai-chatbots-how-to-spot-a-hallucinating-artificial-intelligence/