“崩老头”屹立在AI 风口之上

本文来自微信公众号： 果壳 ，作者：Sandy，编辑：马文，原文标题：《“崩老头”屹立在 AI 风口之上》

一个好久没联系的亲友突然管你借钱，你怎么判断是不是本人？

通话？视频？以前也许行，但如今，最保险应对只有拒绝。

2500美元的致富之路

来自404media的Joseph Cox花了几个星期，混进了一个销售电诈工具的Telegram群。卖家称，这款叫“昊天AI”的软件可以在WhatsApp、Microsoft Teams、Zoom、TikTok、Instagram和YouTube等视频软件里实时换脸。

来买脸的人可以选现成的，也可以花钱定制。

游戏捏人界面+PS UI的结合体｜昊天AI

Cox第一次和技术人员打视频，就被吓了一跳。电话接通，屏幕那边出现的是“华仔”。那张脸不只长得像，还能说话、眨眼、切换表情。“假华仔”用手捂住嘴、盖住眼睛、又摸了摸下巴，脸部一点儿没错位散架。

过了一会儿，对方又把自己换脸成了一个美女。

“付费！立马付费！”，然后Cox把自拍发给了对面，当天他的脸就做好了。Cox拨通视频，屏幕对面的的“Cox”挑起一边眉毛，笑着挥了挥手，接着又是捏脸、捂鼻子、摸下巴。“Cox”甚至还原了他本人的胡茬和眼袋。

Cox这才意识到，任何人都可以在电话另一端顶着他的脸，招摇撞骗。他对着屏幕连喊两遍，“Oh My God！（你吓到我啦～）”。

左真右假，“老鼠老虎傻傻分不清楚”｜404 Media

甚至，识别准确率能达89.1%的深度伪造检测模型Xception，判定这套AI模型生成的视频时，将几乎所有样本都判为“真实视频”。

不过，这套模型仍然存在目前多模态上的一些问题，比如局部变化引发整体崩坏，模型缺乏对三维空间嵌套关系的显式理解，所以人物手指一张开，五官就可能跟着变形，眼球甚至会突然鼓起来。（所以下次你怀疑网恋对象是AI换脸的，就让他把手举到脸前，和你剪刀石头布。）

今年4月，这家公司推出了一项新服务，帮骗子客户绕过刷脸验证。把头型相似的人换脸后，就能通过眨眼、点头、转头的刷脸认证——这套下来，连银行都吃不消。

昊天AI接的“照片定制单”｜TikTok

东南亚的电诈园区光听着就让人瑟瑟发抖。有些园区为了冒充公务机关，会专门搭出一间假办公室，墙上挂国旗，穿制服的骗子正襟危坐。现在，这些拙劣表演直接省去。这套换脸系统实现让骗子在WhatsApp里冒充警察。

这可以说是从电诈园区走出来的技术流代表。上述这家公司总部就设在柬埔寨，生意做得相当完整，安装有人远程操作，要求电脑性能足够，至少RTX 4080及以上的显卡，版本跟着AI模型更新。在柬埔寨部分地区，客户甚至可以预约上门安装。

软件（脸库调用）年费1998美元，专门定制人脸额外498美元，而且只支持加密货币TRON付款。

从2023年10月开始，这家公司的加密货币钱包已经入账超过400万美元，相当于有近2000人购买了服务。

安全人员拆包了软件，发现里面有大量的开源工具。有技术含量的事情就是将各种开源工具整合成一个平台，帮客户调试和安装。年费里最贵的那部分，其实是服务和信息差——搞诈骗的也风风火火地拥抱了AI。

根据联合国毒品和犯罪问题的办公室统计，在东南亚的Telegram灰产市场里，专门向电诈团伙卖深度伪造软件的供应商已经超过了10家。

昊天AI的相关群组，用户数已破万｜Telegram

一类换脸软件要求屏幕背后必须有一个人，而且这个人的“大模样”不能和目标差太远。

更为先进的一类AI实时视频模型，连人都省了。给它一张照片，屏幕里就能出现一个完整的AI角色。视频接通后，这个人会看着你说话，表情、眼神、语气和手势跟着聊天变化。甚至还能实时生成场景。

假如你问，“提了什么新车，给我看看实力。”AI骗子一边和你聊天，一边走到车旁，拉开车门。

今年，OpenAI检测到一个位于柬埔寨波贝的诈骗网络，这个网络用ChatGPT生成过假护照、法律通知、股票购买确认单、博彩平台页面和加密货币交易界面。

骗子用ChatGPT生成的交易图｜OpenAI

视频里的金融骗子，西装革履，言之有据，豪车傍身，拿得出履历证明。

几经挣扎，你终会彻底上钩。

精挑细选的受害者

当你要求开视频验人，还庆幸自己很警惕的时候，杀猪盘通常已经进行到后半段了。

在此之前，骗子筛选并定位目标，花上几天几个月通过各种方式建立起信任。这工作量可比换个脸多太多了。

一名叫Safeer的印度男子被贩运到缅甸的一座电诈园区。园区给他安排的新身份，是一名28岁的新加坡女性，名叫Ella。

任务十分艰巨。四天之内让接触对象爱上自己，而且对象不止一个。

一个月内，Safeer接触了大约5万名目标，来自至少17个国家。里面有德国的油漆工、土耳其的糕点师、俄罗斯的工程师，还有库尔德地区一名丧偶的裁缝。

Safeer并不懂17国语言，也记不住上百个目标的喜好，他每个班次要同时操作几十个账号，和一百多人聊天，完全是靠一套叫“控天智能拓客（简称KT）”的软件。

图源：KT智能拓客

KT接入十几种主流社交平台，同时管理多个账号和聊天对象，聊过什么也会留下记录。

利用内置的GPT、Gemini等模型，将“新加坡28岁女性Ella”的职业、语气、经历和性格等等人设在聊天中发挥到极致。

Safeer需要做的就是在消息和AI生成的回复之间粘贴和发送。

另一名被困在缅甸KK园区的肯尼亚男子，靠着ChatGPT冒充德州的牧场主和阿拉巴马州的大豆种植户。这个人从没在美国种过一天地，照样能陪人聊牲畜、收成和农场生活。OpenAI发现，诈骗网络还会专门输入指令，要求模型回复时，不要用破折号这种“一眼AI”的写法。（真是不怕骗子说假话，就怕骗子有文化。）

针对如此繁琐的“获客”流程，也有贴心的“上游”公司开发了“电诈套装”，名叫007TG（太地狱了）。

打开007TG的官网，第一眼可能会以为这是一家服务跨境电商的正常公司。网站上有Slack、Trello、AWS，也收录了代理IP、批量社交账号、虚拟手机号、短信接码、浏览器指纹检测、USDT地址查询和虚拟支付卡。

这很很讽刺了｜007TG

用一名前诈骗人员的话来说，007TG就是工业化诈骗的“一站式商店”，园区需要什么，就从里面挑什么。

比如园区开工前，要先准备一大批能用的号码和社交账号。

007TG里有工具可以生成二百多个国家的电话号码。号码准备好以后，另一款工具可以把多个社交账号分开运行，每个账号使用不同的IP，尽量避免一封封一大片。

账号多了，又容易被平台发现“集中IP登录”，所以还有一款工具可以给不同账号，安排不同的代理IP，让它们看起来像是从不同地方登录。

接下来，007TG还可以把这些账号放进后台，一键群发消息。只要有人回复，就算对接成功，再交给Safeer们往下聊。

就算账号被封了，还有工具能转移原来的聊天记录和客户资料，换个账号接着聊。

手把手教你学会诈骗｜007TG

这家公司甚至开发了一款组织管理软件（叫Cloud007），连园区内部怎么管人，也一并AI化。

这款工具不盯受害者，专门看守Safeer们。统计工时、随机截屏、再用AI生成工作报告，看今天聊了多少人，发了多少消息，推进到哪一步了。

“员工”们除了线上被记考勤，时不时还要担心被拿着电棍巡视的主管电击一杵子。

还有一款工具叫SCRM Champion，会记录员工和目标之间的对话，分析对方回复中的情绪变化，再生成绩效报告。同时盯着员工和受害者。

听起来很可怕吧！

你能想到的每一个流程都被“AI化”了，每一个工具都是为成熟的骗局流程精心设计的。而且，购买电诈工具就跟企业购买办公软件一样便捷。

以前，骗子不敢开视频，只好骗对面说摄像头坏了。

现在，摄像头终于被AI“修好”了。

参考文献

[1]https://c4ads.org/wp-content/uploads/2026/02/DeceptiveByDesign-C4ADS.pdf

[2]https://www.404media.co/hello-boss-inside-the-chinese-realtime-deepfake-software-powering-scams-around-the-world/?ref=daily-stories-newsletter

[3]https://www.gm7.org/archives/99555