在人工智能蓬勃发展和Twitter衰落的背景下，这一虚假图像再次表明，网上有害的虚假内容的风险放大了。

在虚假报道泛滥之后，国防部总部的五角大楼部队保护局不得不在周一转发一份声明，澄清它没有被炸毁。

[caption id="attachment_51227" align="aligncenter" width="740"] 照片来源： Patrick Semansky (AP)[/caption]

“最新消息：美国五角大楼没有受到攻击。”但这并没有阻止周一时这些关于爆炸的虚假报道在网上广泛流传，同时还有一张似乎是由人工智能生成的国防部总部附近冒出黑烟的图片。

多个“已认证”的蓝色徽章的Twitter用户转发了这张假图片，并配以文字，暗示五角大楼以及白宫正在发生紧急状况。放大虚假内容的账户中至少有一个账户似乎在主动冒充彭博新闻社（之后该账户被禁言）。

“已认证的假冒彭博社的账户发送文字假新闻，然后标有金色徽章的俄罗斯新闻机构将其放大。股市似乎短暂下跌。
更多的人将学会不将Twitter作为新闻来源。所有这些都是因为Musk似乎相信了关于遗留的蓝色徽章的心理呓语。”

俄罗斯国家媒体RT News在其标有金色徽章的付费认证账户上发布了关于这一虚假事件的消息，进一步推动了这一骗局故事。尽管RTNews在最初发布的几个小时后最终删除了其推文，但有超过3.8万人浏览了该帖子。印度的右翼英语新闻频道“共和国电视台”也播放了基于这张假图片的整篇新闻报道。

“虚构：一张由人工智能生成的在五角大楼附近的爆炸图片，一个拥有蓝色认证徽章但却是品牌抢注者的账户以及一个没有认证徽章但拥有300万粉丝的官方媒体。“自由高于审查”，这的确如此。”

“俄罗斯官方媒体现在删除了一条分享有关五角大楼附近爆炸的虚假报道的推文。”

五角大楼成为Twitter上的热门话题，截至原文发布时仍在热门话题榜上。 在该平台上搜索“五角大楼”，大部分置顶帖子似乎都是对这起恶作剧爆炸的揭穿，而少数人则继续宣传这则假新闻。 更少的人讨论了最近公布的五角大楼天文数字般的高预算，以及哥伦比亚广播公司新闻频道的一份新的调查报告，该报告表明承包商向政府收取了过高的费用。

事情变得不可收拾，以至于弗吉尼亚州当局不得不介入，以确保阿灵顿国防部总部实际上没有发生任何爆炸或其他事件。 五角大楼保卫局以及阿灵顿消防和急救部门在Twitter上发表声明，驳斥了这一骗局。 “在五角大楼附近地区没有发生爆炸和事故，对公众没有直接的危险或危害。”

@PFPAOfficial and the ACFD are aware of a social media report circulating online about an explosion near the Pentagon. There is NO explosion or incident taking place at or near the Pentagon reservation, and there is no immediate danger or hazards to the public.

— Arlington Fire & EMS (@ArlingtonVaFD) May 22,2023

但除了Twitter之外，人工智能可能引发的爆炸恐慌也在现实世界中引起了反响。第一批声称五角大楼事件的帖子之一在网上出现几分钟后，内幕网报道称，美国股市短暂下跌——尽管股价很快回升。

Twitter作为一个分享和查找新闻的地方，其可靠性和权威性可能不会恢复得那么快。自从Elon Musk去年彻底改革了他的社交媒体平台的验证系统，并在上个月取消了大部分旧的徽章以来，该平台上唯一保留的带有复选标记的账户是那些为Twitter Blue或Twitter的认证组织项目付费的账户，以及少数获得免费灰色徽章的机构和政府机构。

此前，Twitter的认证只适用于“真实、值得关注和活跃”的账户。用户通常不得不申请蓝色徽章，大多数申请都被拒绝了。但是这个认证过程已经不存在了。相反，只需每月支付8美元，而且没有太多（或者没有任何）监督，Twitter Blue就可以在网站上获得权威认证。

基本上，一旦收费认证标记变得可用，名人和大公司的冒名顶替账户就成为了一个问题。虽然Musk试图解决这个问题，但今天的事件表明这个问题仍然存在。

当然，快速发展的生成式人工智能技术使在线模仿问题更加复杂，它基本上允许任何人立即制作足够令人信服的图像、视频或任何他们选择的声音片段。借助人工智能生成的文本和图像，内容农场在互联网上不断涌现，大量发布捏造出来的、但是可点击的内容。以前，有关Donald Trump被捕的假“图片”在网上引起了轰动，一些专家呼吁对生成的图像进行监管或强制添加水印。

尽管五角大楼的假爆炸图像还没有被证实是人工智能创造的，但几乎可以肯定就是人工智能生成的。围栏和建筑窗户的不一致性似乎非常符合人工智能经常产生的幻觉类型。