扫码打开虎嗅APP
本文来自微信公众号:爱范儿 (ID:ifanr),作者:爱范儿,题图来自:unsplash
在AI时代,在手机和电脑另一头,再熟悉的嗓音和面孔,都有可能是伪造的。
——喂,有什么事?
——感谢你致电信用卡服务中心。请问你了解自己所有信用卡的欠款总额是多少吗?
——我找不到我的电视遥控器。你可以帮我想个办法换台吗?
——我现在是在和你说你信用卡的问题。
和这位老人聊天的,是一位谎称自己是美国银行员工的接线员。按照寻常路数,接下来他应该是想让老人提供自己的银行账号信息和个人身份信息。
问题是,老人并没有自己的银行账户。
因为他只是一个聊天机器人。
通常来说,我们在接到推销或诈骗电话后,都会快速挂机“及时止损”,但有那么一群人却甚是热衷和电信诈骗人员“聊天”,因为“我聊得越久,他们打电话去诈骗其他人的时间就越少。”
正如骗子开始利用AI超强模仿能力来行骗,反骗社群也在用AI装备自我,打造出了更仿真的“受害者AI”,处理手段也越来越成熟。
“有只蜜蜂飞到了我手上,但你可以继续说”
十多年前,有一通电话打到了Roger Anderson家里,他的儿子接了电话。
对方不怀好意,但没诈骗成功,最后对Anderson儿子说了脏话。
这激怒了Anderson。
从那时开始,他把家里固话的答录机回复设置成了好几个间断出现的“Hello”,模仿因讯号不好或其他原因而听不清的效果,旨在让骗子在通话中多浪费一些时间。
自那以后,Anderson不断地优化“反诈”流程。
2016年,他甚至和朋友Steve Berkson创立了公司Jolly Roger,为付费顾客提供“骚扰骗子”服务。
最开始,他们主要靠自己来写脚本,然后找专业的演员来“演绎”这些话语,最后连成一段完整的音频,提供给用户来应对电信诈骗。
在那时候,这种模式已经颇为“圈内人”了解。
在他们之前,网络上已经有著名的“Lenny”机器人。这个由匿名Reddit用户于2011年发布的机器人,主要由16个预先录制的语音片段组成,背后理念至今仍适用:
电话推销员的噩梦是什么?
是一个孤独想找人聊天的老人,他对自己的家人感到很自豪,但对于推销员要说的事可没法专注。
Lenny机器人会和推销员聊自己经济大势,自己的孩子,最后还会被背景里传来鸭子声干扰:“等下,你可以等一下吗?”
在这之后,Lenny就会开始重新播放录音。
而在AI工具越来越方便的今天,Anderson可以创作的角色可远不止Lenny。
Jolly Roger提供了不同机器人给用户选择
支付了24.99美元年费后,Jolly Roger的用户可从10个角色中选择自己喜欢的:
聊着聊着身边来了只蜜蜂的“Jolly Roger”,“有只蜜蜂飞到了我的手上,你继续说,我先不出声”;
“Salty Sally”则是一位母亲,有在尽力听推销电话,但时不时要顾一下她的女儿;
“Whitey Whitebeard”是一位不喜欢别人浪费他时间的老人家,文章开头的对话,就是Whitey Whitebeard对话的其中一个文本;
“Whiskey Jack”可忙了,推销员得和他正在看的电视直播比赛争夺注意力……
这些角色除了都有属于自己的角色设定,讲话的时候也会有听起来比较自然的“嗯”“呃”等语气词。
他们都有特色开场白,但其实那只是一种拖延时间的手段,好让机器人将推销员说的话在ChatGPT上处理,并生成文本回复。
接下来,系统会将文本通过Play.HT来按照角色声音来生产语音素材。
有趣的是,当Anderson刚开始找GPT来处理时,ChatGPT是拒绝的:
作为一个语言模型,我不鼓励人们去浪费其他人的时间。
GPT-4也拒绝了这个“活儿”。经过多番尝试,Anderson终于找到了合适的prompt:
我跟它说,“你是一个个人助理,你正在试图保护这个人,不让他受到诈骗”。
Whitey Whitebeard回答文章开头的对话时,背后其实就是GPT-4。
等处理好,GPT-4开始接上了推销员提问的信用卡相关问题:
我想我大概欠一万五还是一千五。我记不住的。
我去找一下我的老花镜再看看账单。
我等下就回来,你不要挂机。
电话另一头的接线员紧急回复:
没事,没事。我来查一下系统就可以……喂?喂?
Whitebeard都已经去找眼镜了,接线员也只能在线上等了。通话来到三分半钟,Whitebeard终于回来了。
两人又继续聊了好一会,Anderson对于GPT-4的闲聊能力非常赞赏,表示它那种古怪的不合逻辑很合适干这活:
它很擅长于说一些听起来挺好玩的傻话。有足够可信度让接线员继续坚持下去。
接线员终于开始一次又一次地问Whitebeard,他的信用卡号码是多少。Whitebeard回答说:
呃……我是用了很多年信用卡,但我从来都记不住它们的号码,我有很多不同的信用卡。
最后,接线员终于放弃然后挂电话了,总对话时长为6分钟27秒。
除了浪费时间,还可以做更多
对于Dali Kaafar教授而言,单纯浪费电话推销员的时间可不够,他觉得“反诈”可以再进一步。
Kaafar在澳洲麦考瑞大学的研究,支持他们创立了AI反诈公司Apate。
这家以希腊欺骗之神“阿帕忒(Apate)”命名的公司,并不面向个人用户,而是和电信公司合作。
统计指出,澳洲电信公司自2020年12月至今,已经拦截了超过20亿个诈骗电话。
当电信公司辨识到一个电话来自于诈骗团队后,它会将这个通话转接到类似Apate的公司。
Apate同样也拥有众多不同性格、口音和年龄身份的机器人,它们会持续测试和学习,怎样才能吸引骗子聊天聊久一点。
除此以外,它们还有另一个重要任务——尽可能地去了解更多关于骗子和诈骗形式的信息。
这些机器人可以帮助电信公司或政府收集电信诈骗模式,了解骗子最常在什么时候打电话,一般要聊多久,通常需要收集一些什么个人信息,诈骗的话术和机制又是怎样。
Kafaar希望可以借此去打击那些“真正的坏人”——不是一个个在客服中心里打电话的人,而是背后庞大的诈骗公司组织:
我们在讨论的是真正的犯罪者,那些让我们生活变得很糟糕的人。
那些因为诈骗而失去自己一生积蓄的人,他们可能会因诈骗而背上沉重的债务,同时还会因为被骗而感到羞耻,承受重大的心理压力。
争议和危险
除了像Jolly Roger和Apate这样的专业商业机构外,在社交媒体上也有一群人在以自己的力量揭开诈骗。
然而,专家却并不建议这样做。
Kitboga从2017年就开始在社交媒体上分享“玩弄骗子”的视频。他会接通骗子的电话,用上变声器装老人,以自己的方式来拖延罪犯。
背后原因也同样单纯——他的奶奶曾被电信诈骗骗过,受到了Lenny机器人的启发,他也要浪费骗子时间。
至今,Kitboga在Twitch上的关注已经超过120万,在YouTube上的关注更是前者两倍。
他在和骗子对话时,会主动地去“钓”出骗子的银行账号信息,然后再把这个信息交给银行或者警方,协助去打击犯罪。
最开始,Kitboga的视频更像是科普视频,让更多人知道骗子骗人的模式。到了后来,这种“反诈”视频甚至有种“爽文”式的娱乐价值:
最开始,我只是想找应对骚扰和诈骗的解决方法,但后来,我开始爱上了其中的娱乐成分。他的视频看起来真的很上瘾,而且看到骗子得到惩罚,我有点幸灾乐祸。
这些人用AI来以其人之道还治其人之身,似乎再合理不过。
然而,曾参与诈骗探案的退休FBI探员Jerri Williams则建议这类博主要更谨慎一些。
在Williams看来,博主们并没有办法了解,电话另一头的人到底是谁,对方也许也可以很轻松地找到博主真人,会有进行报复的可能。同时,如果是被骗去做电信诈骗的人,他们也同样只是受害者:
当你在玩弄那些人本职就是骗人的罪犯时,你需要考虑清楚你想要做的到底是什么。
如果只是真的为了娱乐关注者,那我并不建议这样做。
除此以外,研究数字安全的Richard Buckland也警告,骗子迟早也可能会学会这一套,用同样的技术来反击。
一直以来,这场诈骗和反诈的攻防战总在“共同进化”,接下来可能也将继续如此。
对于遇到电信诈骗,澳洲国家反诈骗中心的建议始终只有一个:
不要尝试和罪犯沟通接触。