近期的研究发现，人工智能写作助手自动完成的句子或提供的“智能回复”不仅让人们在表达上具有了想象力，而且影响了使用者的思想。信息科学领域的博士生Maurice Jakesch要求1500多名参与者写一文字来回答这个问题：“社交媒体对社会有益吗?”使用一款对社交媒体有偏见的人工智能写作助手的人，与未使用AI的人相比，编写的文字同意AI建议的可能性增加了两倍，并且还有可能表示他们持有相同的观点。

[caption id="attachment_50860" align="aligncenter" width="695"] 来源:Unsplash[/caption]

研究人员表示，这项研究表明，人工智能写作工具中的偏见——无论是有意还是无意——都可能对文化和政治产生影响。

“我们急于在各行各业实施这些人工智能模型，但我们需要更好地理解其含义，”合著者Jacobs Technion-Cornell Institute研究所的Mor Naaman说，“除了提高效率和创造力外，对个人和我们的社会也可能产生其他影响——转变语言和观点。”

虽然其他人已经研究了像ChatGPT这样的大型语言模型如何创建有说服力的广告和政治信息，但这是第一次研究表明，使用人工智能工具写作的过程可以影响一个人的观点。Jakesch在2023年4月份的CHI《人机交互计算系统国际会议》上展示了这项研究，“与有观点的语言模型合作写作将影响用户的观点”，该论文获得了荣誉奖。

为了了解人们是如何与人工智能写作助手互动的，Jakesch操控了一个大型语言模型，让它对社交媒体有积极或消极的看法。参与者在他建立的模仿社交媒体网站的平台上写一段话——要么自己写，要么和一个有观点的人工智能写作助手一起写。该平台在参与者写作时收集数据，比如他们接受了哪些人工智能建议，以及他们花了多长时间来撰写这段话。

根据评委的判断，与没有人工智能写作助手的参与者相比，使用支持社交媒体的人工智能助手写作的人写了更多主张社交媒体有益的句子，反之亦然。这些参与者在后续调查中也更加倾向于表达与他们使用的人工智能写作助手相同的观点。

研究人员研究了人们只是为了更快地完成任务而接受人工智能建议的可能性。但是，即使是那些花了几分钟写这段文字的参与者，也会提出受到严重影响的观点。调查显示，大多数参与者甚至没有注意到人工智能是有偏见的，也没有意识到他们受到了影响。

“在合作的过程中，我并不觉得自己被说服了，”Naaman说。“感觉我在做一些非常自然和有机的事情——我在一些帮助下表达我自己的想法。”

当用不同的主题重复实验时，研究小组再次发现参与者受到人工智能写作助手的影响。现在，研究小组正在研究这种经历是如何改变人的观点的，以及这种影响会持续多久。

正如社交媒体通过促进错误信息的传播和形成共鸣室而改变了政治格局一样，有偏见的人工智能写作工具也可能使人产生类似的观点转变，而这种观点的转变取决于用户使用哪种工具。例如，一些组织已经宣布他们计划开发ChatGPT的替代品，旨在表达更保守的观点。

研究人员说，这些技术值得更多的公众讨论，比如它们如何被滥用，以及应该如何对它们进行监控和管理。

Jakesch表示：“这些技术变得越强大，越是深入社会结构中，我们就越应该谨慎地思考如何管理它们内嵌的价值观、优先权和观点。”