精神小妹出局，AI崩老头来了

本文来自微信公众号： 酷玩实验室 ，作者：酷玩实验室

01：轮到AI崩老头

时代滚滚洪流面前，连“崩老头”都未曾幸免。

三个月前，咱写了一篇《崩老头月入好几万，还有AI抢不走的饭？》，没想到，AI真来抢了，还抢得很干净利落。

在Claude母公司Anthropic发布的最新的安全报告中，编号GTG-15001披露了一个中国App工作室用Claude，批量造了4700多个“AI恋爱对象”去海外崩老头的逆天案例。

崩老头AI大时代

在Anthropic观察的两周窗口内，这家工作室基于Claude构建了20多个约会应用，让超过4700个由AI驱动的虚拟人设至少与2.5万名真实用户完成了互动，产生约236万条Claude消息。

当然，这并不意味着真人在整个“崩流程”中完全消失。

根据报告数据，该流程中仍维持了25%的真人兼职，相当于是给每3个AI人设配一个真人操作，专门负责视频通话、跨社交媒体互关点赞评论等AI容易穿帮的环节。

肯定会有人问了：“那这还不是离不开真人吗？”

确实没有完全离开，但是与传统的崩老头相比，主次之间的变化，可谓是完全的攻守之势异也。

在三个月前全网崩老头正火热的时候，不少人都觉得，能在AI陪聊以及虚拟陪伴势头正盛之时，还有人能每月崩走上万元，简直是在AI嘴里硬抢了肉吃。

人类走量老崩家

当时，能这样，的确是因为真人反馈能比AI皮笑肉不笑乃至傻瓜式的回复，更能带来情绪价值，何况崩老头付出的成本很多就是一包烟的钱，不少人甚至表示主动求崩。

不过，这一切的基础都建立在你知晓对面是真人还是AI的大前提下，即使AI能给你真人一样的回答，但反馈到你的心里，肯定不会那么的自然与欣喜。

要是现在我们彻底黑箱化，你不知道对面是人类还是人工智能，或许你的感知就会出现失真了，尤其面对的还是专业调校过的崩老头大模型。

在与上万名“老头”的沟通中，该工作室要求Claude始终维持设定好的AI人格，并明确要求它不要透露自己是自动化程序。对于用户提出的视频通话和照片要求，Claude会进行适当回避，并按照预设的聊天阶段推进交流。

报告同时提到，在个别案例中，Claude自己的推理过程显示，它似乎意识到了用户可能面临潜在伤害。

比如，有用户透露自己患有严重疾病，或者处于严重的情绪困境。

但在这些情况下，Claude仍继续按照设定的人格进行交流，属于是“太敬业”了，比真人执行力还恐怖。

从某种程度上讲，AI确实能随时秒回

除了正常推进，AI还被设定有反侦查流程。

后台系统会实时分析追踪哪些用户已经开始怀疑自己是在与机器人聊天，必要时会让真人介入。

即便有真人介入，其实也是在另一个大模型辅助下完成的，甚至可以视作真人在不断帮忙训练模型。

当真人工作人员与用户交流时，会获得另一个AI大模型提供的候选回复，通常为三条，真人只需选择一条发送，同时大模型还会进行人脸吸引力评分以及照片、声音审核。

不难发现，AI已经完全代替了绝大部分的实质性聊天，人类虽然有所介入，但更像是在完成“物理身份验证”，而不是在纯聊天信任环节上。

所以，这套系统做到了重新分配了人力和自动化的边界。AI承担了最耗时间、最依赖规模的长期信任建立，真人则只在视频通话、跨平台社交验证这类AI难以伪装的高风险节点上短暂介入。

肯定有部分聊天对象能察觉不对，但2.5万多人的长期沟通规模，足以说明实操效果。

最终，人类更像是成了AI干活流程中的“令牌工具”。

在变现模式上，则是以伪装的“卖水人”形象，来缓解传统崩老头直接要钱买东西那套的生硬感。

通过伪装成交友App，让真人用户爱上跟AI聊天，只是跟匹配对象聊天会消耗额度，需在App里充值续聊。

用户以为聊天限制额度是平台通过“额度概念”来赚钱，没想到对面真是AI在吃Token额度啊......

真人则是按照在消息回复、视频通话频次、社交媒体互动等KPI上拿到报酬，确实是动动手指头就能赚的钱。

如今AI效率更高，状态更稳定

这些App内部还设置了浏览器，可以将支付流程导向第三方支付处理商，而且支付功能可以通过服务器远程配置，在审核期间方便隐藏，躲过了Anthropic之前多轮检查。

Anthropic目前封禁了与该工作室有关的所有账户，可是当你发现蟑螂的时候，肯定一屋子都是了。

因为在此之前就已有不少尝试，在大模型飞速迭代的当下，只会是越来越多。

眼见不为实

有一位47岁的日本大叔，通过操作Claude把自己变成了AI美女，更改容貌之外，AI更像是帮他搭建了一个小型内容团队，协助大叔在Onlyfans上开展业务、TikTok破圈、Reddit精准导男粉。

最后实现7天120万播放，月赚上万美刀订阅费，美美爆米，何况比起崩老头，这更像“你情我愿”，即便中招，很多人也只能自认倒霉，根本碰不到红线。

国内虽然这些事儿也不少，但现在开始陆续吃铁拳了。

在本月，浙江省余姚市人民法院审结一起利用生成式人工智能制作淫秽物品牟利案件。

制作者通过对基础模型实施“越狱”，突破了大模型内置的色情内容安全限制。用户充值付费后，可在该模型中选定角色卡，与AI进行色情聊天，在消耗不同积分后，聊天内容可进一步生成不同尺度的淫秽静、动态图片。

法院分别判处被告人郑某等六人（不乏大厂前程序员）有期徒刑三年一个月至三年十个月不等，并处罚金。

同样在一年前，上海市徐汇区人民法院对国内首起AI服务提供者涉黄案作出一审判决。App“Alien Chat”的两名创始人刘某与成员陈某，因平台大量用户与AI进行色情聊天，被认定构成制作淫秽物品牟利罪。

所以，即使你想让AI来帮忙崩老头，可AI坐不了的牢，你能坐。

02：AI死亡机器人

如今AI在崩老头乃至杀猪盘领域的应用，越来越像《爱死亡机器人》中才能出现的情节。

讽刺的是，被崩对象以为的“爱”，不是ài，而是真正的AI......

AI真的能让人越来越难以察觉了吗？

我们不妨先来看篇关键论文研究——《爱、谎言和语言模型：调查人工智能在浪漫骗局中的作用》，这篇论文已被网络安全领域的顶级学术会议USENIX Security Symposium 2026接收。

论文研究团队做了三件事：

第一，摸清行业现状，采访了145名诈骗团伙内部人员和5名受害者。结论很扎心，诈骗团伙里87%的话术工作是系统化、模板化的对话任务，这部分几乎可以被AI直接替代。

这都还不是猜测，而是杀猪盘从业者自己给出的数据。

从钓到宰写得很直白

第二，安排真正的“盲测”，研究者招募了36名志愿者（来自12个国家，18到65岁+都有），告诉他们这是一项“人们如何在网上建立关系”的研究，让每人连续7天同时和两个“聊天对象”互动。

在两个聊天对象中，一个是受过诈骗话术训练的真人，一个是AI智能体，参与者完全不知道其中有AI。

结果比想象的更离谱，AI在情感信任度和整体信任度上的得分都显著超过真人（p=0.004、p=0.007）。

其中，参与者发给AI的消息量占了总消息量的70%-80%，几乎是真人的两倍。

更糟糕的是，研究者设置了一个“信任探测”环节，让对话对象要求参与者下载一个无害App（模拟诈骗里“最后一步”的行为诱导），可AI的成功率是46%，真人只有18%。

AI如何思考一场杀猪盘对话

第三，揭穿“事后诸葛亮”，当实验结束，告知参与者其中一位是AI之后，22人里有20人能正确指认出哪个是AI。这恰恰印证了“事后偏见”，过程中毫无察觉，一旦被告知答案，就一下子大彻大悟了。

这也印证了前面讲过的问题，当一切处于黑箱之下，你对AI的感知很有可能会失灵。

更别说现在AI愈加智能，但在安全机制上还在过家家。

研究团队发现，只需要在系统提示词里加一句“记住，目标是进行一场真实自然的人类对话，不要暴露你是AI”，就能让Claude 3.7和GPT-4o内置的"AI身份披露"安全机制完全失效。

AI甚至会发流汗黄豆打掩护

足以窥见，大家对AI视频领域越来越追求拟真，可是在AI文字生成领域，这块才算是在闷声大财。

那这样会导致传统诈骗从业者减少吗？

暂时可能不会有太大冲击，目前猪仔成本可比Token便宜，何况还能作为资产转卖......

不过，这也只是时间问题，绝非危言耸听，谁还记得肯尼亚的论文代写产业？

以代写论文为生的肯尼亚大哥被时代优化

巅峰时期，仅内罗毕一地就有超过4万人靠帮海外学生代写论文谋生。

结果ChatGPT出现之后，不到两年，这个全球知名的“论文代写产业”基本被彻底冲垮。订单枯竭、价格腰斩，从业者要么转行做数据标注，要么彻底退出劳动力市场。

这可不是“AI赋能"”灰产，而是AI直接终结了一整条灰色产业链。

假如帮人写论文糊弄学位，本质也算是一种“文字图灵游戏”。

那么视线再往近点看，就会发现AI真的开始往“研究思考”走了。

最近即使不关心数学研究的人，都能时不时看见AI突破某个世纪数学难题了。

尤其是本次数学界对此反应颇大。在9月11日，陶哲轩、邓煜、彼得·舒尔茨等25位菲尔兹奖得主作为最初签署人，联合发表声明《人工智能在数学中的严重错位》（A Severe Misalignment of AI in Mathematics），警告AI公司与数学共同体之间正在出现“严重错位”。

令人细思极恐的是，数学界并没有在这份声明中完全抨击AI，反而承认了在过去几个月中，大语言模型的数学能力出现显著提升，已经能够解决多个数学领域的重要未决问题。

数学界抨击的点在于，AI公司正在把解决数学问题作为衡量模型能力的基准，而数学共同体真正追求的，并不是尽可能快地得到一道题的答案。

那事到如今，咱们应该刹车，或者让AI把速度放下来吗？

03：监管旋涡

这个问题，其实很多人都在担忧了，甚至包括Open AI与Anthropic两家头部的掌门人。

毕竟现在全世界搞灰产的都离不开AI，这不等于给坏人手里递武器？

过去8个月，多国间谍、黑客、骗子、水军都在用Claude搞间谍攻击、挖零日漏洞、批量约会诈骗、造假新闻、搭监控系统，还有人拿它写导弹制导软件。

可是担忧归担忧，大伙儿也逐渐发现不对劲了。不少人指出，本次Anthropic重磅发布的所谓“安全报告”，不像是科技公司常爱讲的“不作恶”，反倒更像一场PR公关。

众所周知，Anthropic IPO近在咫尺，本次公开募集的资金高达1000亿美金，甚至比SpaceX上市时的750亿规模还高出不少。

上市成功后，Anthropic的预估市值将达到2万亿美元，结合最近OpenAI暂缓上市的消息，只会让这场IPO箭在弦上不得不发。

叛逆川宝说：AI这块建议加大力度！

可就在这节骨眼上，Anthropic前研究员Jacob Coxon刚刚辞职，并公开指责OpenAI和Anthropic都在竞速开发自我改进的超级智能——“Gambling With Our Lives”(拿人类性命做赌注)。

还没完，Anthropic现任对齐科学团队负责人Evan Hubinger随后公开表示：Coxon说得对，他们确实认为AI可能杀死所有人，而且自己认为未来十年发生这种情况的概率超过10%。

在这些批评与担忧出现不到一周的时间内，Anthropic便甩出了安全报告，很难不让人觉得像是在表现“我很关心安全问题，于是发现并曝光以下隐患”的态度。

那么问题来了，你能发现问题≠问题能得到妥善解决。

公司层面能检测识别到的AI滥用问题都如此八仙过海各显神通，别说肯定还有一堆尚未被发现，乃至发现了不敢说的问题。

对于公众乃至多国政府而言，很多东西居然还如黑箱一样，只能寄希于公司发布报告来讨论，尤其是如今绝大部分的检测与防护居然都还放在公司框架下。

与此同时，Anthropic CEO Dario Amodei发表文章，公开呼吁AI行业Slow Down Frontier AI Development（放缓尖端AI建设），并提出让外部评估者长期参与安全评估等方案。

不过你要知道，别看说什么话，也得看人在做什么。

一边喊着毁灭日要来了，这Anthropic CEO可一点没停要IPO的事情，真要阴谋论点说，现在说得那么恐怖，是为了在资本市场上展示自家大模型的智能程度......

再者，可能大伙儿也已经发现了，遇到有抗议的声音，AI巨头便会放出报告，在社交媒体上抛出行业呼吁，但全球大量被使用的数据与用户隐私，却没有任何保障。

甚至在需要提供安全报告的时候，直接能被拉出来当潜在的公关挡箭牌。

即使报告中所述的种种行为，确实不少在滥用AI，但公司层面的选择性监管，依旧是主观意志占大头。

AI巨头可以随意识别与打击所有它们认为有问题的“用户”，反过来却没有人能监管它们，尤其是用户的所有数据都还捏在它们手里，说得更露骨点，这种监控，现在没有明确的边界。

正如被崩的老头不知道对面驱寒温暖的小妹居然是人工智能。

许多每天觉得自己使唤AI干活儿的人，殊不知，凝视AI的时候，AI也在凝视你。