Macquarie大学网络安全专家发明了一种多语言聊天机器人，旨在让骗子把时间花费在拨打假电话上，最终减少每天全球因犯罪分子而蒙受损失的人数。

一种新的人工智能驱动系统以多语言聊天机器人的形式创造了逼真的假受害者，这些机器人浪费了诈骗者的时间，预计每年减少约550亿美元的损失。



该系统以希腊欺骗女神Apate命名，它将使用令人信服的克隆语音与真正的骗子进行对话来“欺骗骗子”。

Macquarie大学网络安全中心执行主任Dali Kaafar教授说：“电话诈骗是由有组织的犯罪集团经营的，目前只有一小部分罪犯被抓获，而赃款也很少被追回。”

Kaafar教授在与家人共进午餐时想到了这个主意，这时一个骗子打来了电话。他装出一副感兴趣的样子，让孩子们笑个不停，并且让骗子在电话里说了40分钟。

Kaafar教授说：“我意识到，虽然我浪费了骗子的时间，让他们无法接触到更加容易被骗的人，但我生命中的这40分钟也被浪费了。”

“然后我开始考虑如何将整个过程自动化，并使用自然语言处理来开发一个计算机化的聊天机器人，可以与骗子进行对话，”他说。

Kaafar教授表示，他的团队目前正在申请这项技术的专利。

“我们对这项新技术有可能主动打破诈骗电话的商业模式并使其无利可图感到兴奋，”他说。

减少骗子的利润

Kaafar教授表示，全球范围内的电话诈骗呈上升趋势，原因有几个。

像网络语音协议(VOIP)这样的技术使得网络犯罪分子可以简单而廉价地掩盖他们的位置，假装从任何号码拨打电话。

同时在技术方面，更新电信基础设施和协议以改善通话的认证是困难和昂贵的。

“从经济上讲，这对骗子来说是一种高利润、低成本的做法，这种做法非常有利可图，而且是一种风险相对较低的犯罪活动——受害者很难追回这笔钱。”

这些因素吸引了越来越多的骗子，他们擅长利用人类的情绪和恐惧。

“骗子的商业模式依赖于从少数受害者身上赚取巨额利润；他们每周打的数千通电话中，只有一小部分是成功的，”Kaafar教授说。

他说：“我们的模式束缚了他们，浪费了他们的时间，减少了成功诈骗的数量。”“我们可以颠覆他们的商业模式，让他们更难赚钱。”

APATE是如何创建的

来自Macquarie大学网络安全中心的团队首先分析了诈骗电话，并确定了骗子对受害者使用的社会工程技术，使用机器学习技术和自然语言处理来识别典型的骗局“脚本”。

然后，他们在真实世界的骗局对话数据集上训练聊天机器人，这些数据集包括骗局电话的录音、骗局电子邮件的抄本，以及社交媒体平台的聊天记录，这样机器人就可以生成类似于真实世界骗局电话的对话。

Kaafar教授表示，自然语言处理(NLP)和人工智能人类语音克隆技术的进步，使他们能够开发出能够流利说话的人工智能代理，它们可以采用特定的角色，在对话中保持正轨，并在回答中保持一致。

Kaafar教授说：“我们开发的对话式人工智能机器人可以欺骗骗子，让他们认为自己正在与可行的骗局受害者交谈，因此他们会花时间试图欺骗机器人。”

这些机器人可以接受任何语言或口音的训练，因为电话诈骗是一个全球性的挑战，这项技术可以部署在世界任何地方。

现场诈骗电话试验

该团队现在正在试用实时诈骗电话的聊天机器人，将打算打给受害者的电话转到他们的测试原型上，这是一个具有各种各样角色的“永远在线的蜜罐”。

Kaafar教授说：“我们把这些‘脏’号码散布在互联网上，让它们进入一些垃圾应用程序，或者在网页上发布，让它们更有可能接到诈骗电话。”

“我们发现机器人对一些棘手的情况反应很好，我们没有料到会侥幸逃脱，比如骗子要求我们提供我们没有训练机器人的信息，但机器人正在适应，并提出了非常可信的回答。”

“机器人正在不断学习如何将电话拖长，以达到其主要目的：让骗子保持更长时间的通话。”

目前部署的Apate机器人的平均通话时间已经达到5分钟，目标是使其达到40分钟。

反诈骗机器人还有助于提供威胁情报——及时收集有关当前电话诈骗及其目标的信息；这有助于大银行、零售商和政府机构等组织向客户发出提示。

Kaafar教授表示，该团队正在与一些电信供应商进行对话，并表示他们对一些商业伙伴关系持开放态度。

Kaafar教授说：“与通信提供商合作将是使其真正有效的关键。”

“我们认为这在全球具有巨大的潜力；如果我们能够重新定向提供商目前拦截的垃圾电话，并将骗子发送给Apate机器人，尽可能占用他们的时间，那么将对骗子产生重大影响。”

“我认为最终的元场景可能是骗子自己采用人工智能，训练他们自己的诈骗聊天机器人，然后这些机器人被转移到电信提供商拥有的聊天机器人上。”

“如果诈骗聊天机器人最终与防诈骗聊天机器人交谈，而不是从真人那里偷钱，我会认为这是一个巨大的胜利。”

 

来源：https://techxplore.com/news/2023-06-scamming-scammers-ai-created-fake-victims.html