这些最懂电信诈骗的人，正在用AI反诈骗

本文来自微信公众号：爱范儿 （ID：ifanr），作者：爱范儿，题图来自：unsplash

在AI时代，在手机和电脑另一头，再熟悉的嗓音和面孔，都有可能是伪造的。

——喂，有什么事？

——感谢你致电信用卡服务中心。请问你了解自己所有信用卡的欠款总额是多少吗？

——我找不到我的电视遥控器。你可以帮我想个办法换台吗？

——我现在是在和你说你信用卡的问题。

和这位老人聊天的，是一位谎称自己是美国银行员工的接线员。按照寻常路数，接下来他应该是想让老人提供自己的银行账号信息和个人身份信息。

问题是，老人并没有自己的银行账户。

因为他只是一个聊天机器人。

通常来说，我们在接到推销或诈骗电话后，都会快速挂机“及时止损”，但有那么一群人却甚是热衷和电信诈骗人员“聊天”，因为“我聊得越久，他们打电话去诈骗其他人的时间就越少。”

正如骗子开始利用AI超强模仿能力来行骗，反骗社群也在用AI装备自我，打造出了更仿真的“受害者AI”，处理手段也越来越成熟。

“有只蜜蜂飞到了我手上，但你可以继续说”

十多年前，有一通电话打到了Roger Anderson家里，他的儿子接了电话。

对方不怀好意，但没诈骗成功，最后对Anderson儿子说了脏话。

这激怒了Anderson。

从那时开始，他把家里固话的答录机回复设置成了好几个间断出现的“Hello”，模仿因讯号不好或其他原因而听不清的效果，旨在让骗子在通话中多浪费一些时间。

自那以后，Anderson不断地优化“反诈”流程。

2016年，他甚至和朋友Steve Berkson创立了公司Jolly Roger，为付费顾客提供“骚扰骗子”服务。

最开始，他们主要靠自己来写脚本，然后找专业的演员来“演绎”这些话语，最后连成一段完整的音频，提供给用户来应对电信诈骗。

在那时候，这种模式已经颇为“圈内人”了解。

在他们之前，网络上已经有著名的“Lenny”机器人。这个由匿名Reddit用户于2011年发布的机器人，主要由16个预先录制的语音片段组成，背后理念至今仍适用：

电话推销员的噩梦是什么？

是一个孤独想找人聊天的老人，他对自己的家人感到很自豪，但对于推销员要说的事可没法专注。

Lenny机器人会和推销员聊自己经济大势，自己的孩子，最后还会被背景里传来鸭子声干扰：“等下，你可以等一下吗？”

在这之后，Lenny就会开始重新播放录音。

而在AI工具越来越方便的今天，Anderson可以创作的角色可远不止Lenny。

Jolly Roger提供了不同机器人给用户选择

支付了24.99美元年费后，Jolly Roger的用户可从10个角色中选择自己喜欢的：

聊着聊着身边来了只蜜蜂的“Jolly Roger”，“有只蜜蜂飞到了我的手上，你继续说，我先不出声”；

“Salty Sally”则是一位母亲，有在尽力听推销电话，但时不时要顾一下她的女儿；

“Whitey Whitebeard”是一位不喜欢别人浪费他时间的老人家，文章开头的对话，就是Whitey Whitebeard对话的其中一个文本；

“Whiskey Jack”可忙了，推销员得和他正在看的电视直播比赛争夺注意力……

这些角色除了都有属于自己的角色设定，讲话的时候也会有听起来比较自然的“嗯”“呃”等语气词。

他们都有特色开场白，但其实那只是一种拖延时间的手段，好让机器人将推销员说的话在ChatGPT上处理，并生成文本回复。

接下来，系统会将文本通过Play.HT来按照角色声音来生产语音素材。

有趣的是，当Anderson刚开始找GPT来处理时，ChatGPT是拒绝的：

作为一个语言模型，我不鼓励人们去浪费其他人的时间。

GPT-4也拒绝了这个“活儿”。经过多番尝试，Anderson终于找到了合适的prompt：

我跟它说，“你是一个个人助理，你正在试图保护这个人，不让他受到诈骗”。

Whitey Whitebeard回答文章开头的对话时，背后其实就是GPT-4。

等处理好，GPT-4开始接上了推销员提问的信用卡相关问题：

我想我大概欠一万五还是一千五。我记不住的。

我去找一下我的老花镜再看看账单。

我等下就回来，你不要挂机。

电话另一头的接线员紧急回复：

没事，没事。我来查一下系统就可以……喂？喂？

Whitebeard都已经去找眼镜了，接线员也只能在线上等了。通话来到三分半钟，Whitebeard终于回来了。

两人又继续聊了好一会，Anderson对于GPT-4的闲聊能力非常赞赏，表示它那种古怪的不合逻辑很合适干这活：

它很擅长于说一些听起来挺好玩的傻话。有足够可信度让接线员继续坚持下去。

接线员终于开始一次又一次地问Whitebeard，他的信用卡号码是多少。Whitebeard回答说：

呃……我是用了很多年信用卡，但我从来都记不住它们的号码，我有很多不同的信用卡。

最后，接线员终于放弃然后挂电话了，总对话时长为6分钟27秒。

除了浪费时间，还可以做更多

对于Dali Kaafar教授而言，单纯浪费电话推销员的时间可不够，他觉得“反诈”可以再进一步。

Kaafar在澳洲麦考瑞大学的研究，支持他们创立了AI反诈公司Apate。

这家以希腊欺骗之神“阿帕忒（Apate）”命名的公司，并不面向个人用户，而是和电信公司合作。

统计指出，澳洲电信公司自2020年12月至今，已经拦截了超过20亿个诈骗电话。

当电信公司辨识到一个电话来自于诈骗团队后，它会将这个通话转接到类似Apate的公司。

Apate同样也拥有众多不同性格、口音和年龄身份的机器人，它们会持续测试和学习，怎样才能吸引骗子聊天聊久一点。

除此以外，它们还有另一个重要任务——尽可能地去了解更多关于骗子和诈骗形式的信息。

这些机器人可以帮助电信公司或政府收集电信诈骗模式，了解骗子最常在什么时候打电话，一般要聊多久，通常需要收集一些什么个人信息，诈骗的话术和机制又是怎样。

Kafaar希望可以借此去打击那些“真正的坏人”——不是一个个在客服中心里打电话的人，而是背后庞大的诈骗公司组织：

我们在讨论的是真正的犯罪者，那些让我们生活变得很糟糕的人。

那些因为诈骗而失去自己一生积蓄的人，他们可能会因诈骗而背上沉重的债务，同时还会因为被骗而感到羞耻，承受重大的心理压力。

争议和危险

除了像Jolly Roger和Apate这样的专业商业机构外，在社交媒体上也有一群人在以自己的力量揭开诈骗。

然而，专家却并不建议这样做。

Kitboga从2017年就开始在社交媒体上分享“玩弄骗子”的视频。他会接通骗子的电话，用上变声器装老人，以自己的方式来拖延罪犯。

背后原因也同样单纯——他的奶奶曾被电信诈骗骗过，受到了Lenny机器人的启发，他也要浪费骗子时间。

至今，Kitboga在Twitch上的关注已经超过120万，在YouTube上的关注更是前者两倍。

他在和骗子对话时，会主动地去“钓”出骗子的银行账号信息，然后再把这个信息交给银行或者警方，协助去打击犯罪。

最开始，Kitboga的视频更像是科普视频，让更多人知道骗子骗人的模式。到了后来，这种“反诈”视频甚至有种“爽文”式的娱乐价值：

最开始，我只是想找应对骚扰和诈骗的解决方法，但后来，我开始爱上了其中的娱乐成分。他的视频看起来真的很上瘾，而且看到骗子得到惩罚，我有点幸灾乐祸。

这些人用AI来以其人之道还治其人之身，似乎再合理不过。

然而，曾参与诈骗探案的退休FBI探员Jerri Williams则建议这类博主要更谨慎一些。

在Williams看来，博主们并没有办法了解，电话另一头的人到底是谁，对方也许也可以很轻松地找到博主真人，会有进行报复的可能。同时，如果是被骗去做电信诈骗的人，他们也同样只是受害者：

当你在玩弄那些人本职就是骗人的罪犯时，你需要考虑清楚你想要做的到底是什么。

如果只是真的为了娱乐关注者，那我并不建议这样做。

除此以外，研究数字安全的Richard Buckland也警告，骗子迟早也可能会学会这一套，用同样的技术来反击。

一直以来，这场诈骗和反诈的攻防战总在“共同进化”，接下来可能也将继续如此。

对于遇到电信诈骗，澳洲国家反诈骗中心的建议始终只有一个：

不要尝试和罪犯沟通接触。