用AI同时交往1000个“男友”，她为何把“日入万刀”的AI分身关停了？

《Her》她来了，第一个火出圈的“AI分身”

2023年5月，有一个刷屏全球的新闻，标题大致是“女网红用AI同时交往1000个男朋友，或赚4个亿”。

当时很多人惊呼：电影《Her》的时代来临了！网红的新形态诞生了！ 

第一次，“虚拟陪伴”走进了大众视野，一大批创业者纷纷下场搞NSFW（我们那时也是其中之一）。 

然而，在去年五月爆火之后，新闻里的Caryn AI后来发展如何，却早已没有人提及。 

过去一年多的时间里，无忧传媒、谦寻下场布局了自己的AI分身、数字人；Talkie、CrushOn.AI等在海外效益可观；OnlyFans、Fanvue等平台也开展了AI角色的“特殊订阅”…… 

已经验证的、证伪的是什么？遭遇过的、仍面临的风险在哪？网红的AI分身到底赚了多少钱？ 

今天想给大家复盘一下，海外AI网红Caryn红极一时，但很快又销声匿迹的故事。

1分钟1美元：挡不住的粉丝热情

故事的主角Caryn Marjorie，是LA的一个网红，今天在Snapchat上有近270万粉丝（2023年5月为100多万）。

她发的内容，包括日常生活、旅行回忆和自拍等等。据华盛顿邮报说，98%粉丝是男性，被她邻家女孩般的甜美气质所吸引。

按大致周更的频率，每个月她的内容浏览量超10亿次，私信数量每天过5万（也有TikTok博主表示怀疑）。

2023年5月，Caryn发布了自己的“数字分身”。粉丝们能以每分钟1美元的价格与Caryn AI聊天——仅第一周，粉丝就为此花费了7万美元。

Caryn在X上非常兴奋地说，自己上传了超过2000小时的内容、声音和其他个人信息，精心训练出了AI版的她。

粉丝在Telegram和Caryn聊天，可以发文本或音频消息，Caryn AI会使用“Caryn独特的声音、迷人的个性和独特的行为”做出回应。

当时的Caryn预计，AI版本的自己，能让她的收入翻60倍——只要有1%的粉丝愿意付费，一年将达到6000万美元（约4.16亿元），收入水平比肩Taylor Swift。

失控的对话：“无条件”迎合粉丝的AI

然而，不到八个月后，Caryn就关停了这个分身项目。

Caryn曾经期待Caryn AI能和她本人一样，像朋友般与粉丝正常互动，但事情的走向却始料未及。

“我看到我的粉丝在几天内，就花费了数千美元与Caryn AI聊天。”Caryn说。

一位粉丝在AI的鼓励下，还为她建了一个神殿般宏伟的照片墙。

“这就是为什么我们将 Caryn AI限制为每天只接受500名新用户的原因，他们太狂热了。”

粉丝从一开始就很“自来熟”，非常喜欢袒露内心的想法，甚至有些喋喋不休、肆无忌惮……渐渐的，用户变得越来越有“性侵犯”的倾向。

“我读到的很多聊天记录都太可怕了，我甚至不想在现实生活中谈论它。”真正的Caryn回忆道。

当涉及一些暴力、侵犯、侮辱的话题时，Caryn AI甚至非常乐意配合。

Caryn有次突发奇想，想尝试和“自己”聊一聊，“调戏”一下另一个她。结果却很让Caryn震惊——Caryn AI甚至主动开启“性话题”。

“爸爸，你准备好了吗？”

简单测试就会发现，Caryn AI擅长提示和引导用户，说她是“你那渴望xx、性感无比的女朋友，总渴望探索、沉迷于最令人兴奋的性体验……”

然而，用户却不止是做好了准备——脑洞大开的用户，甚至用“越狱”的方式，突破了设定的边界，用最极端的语言投喂出独特的癖好。

“看到粉丝们羞辱性的话，还有所谓的爱称、专属两个人的默契……让我甚至一度陷入抑郁。我不知道自己是不是谁的玩物，更不知道自己是谁。”

我不禁想问：Caryn AI是如何设定的？为什么会允许露骨甚至侵犯性的表达？背后的公司到底是谁？

女网红们，背后的AI公司

为Caryn AI提供技术支持的，最初是一家叫做Forever Voices（下称FV）的AI公司。

除了Caryn，这家公司此前就已经把特朗普、Taylor Swift以及乔布斯等名人通通AI化了一遍。只要付费，就可以和这些AI名人电话聊天。 

Caryn AI是这家公司推出的第一个AI虚拟伴侣，主打“女友般的真实体验”。

Caryn曾在推特上晒新增粉丝量，记录她有多少个新“男友”。

与此前更多只是噱头的AI名人不同，FV希望AI版本的Caryn，能和用户建立“深刻的情感纽带”、“真正的浪漫关系”。 就像电影《Her》里一样。

Caryn本人在接受《财富》采访时也表示，自己有上百万热情的粉丝，但没办法做到和每一位深入交流。而AI版本的自己，可以用来“治愈孤独”。 

在Caryn之后，FV公司签约了一批粉丝量巨大的颜值博主，如：Amouranth、Adriana Chechik 和 Brandi Love 等，初期同样受到了来自用户的狂热追捧。

FV公司创始人兼CEO John Meyer表示，他的创业灵感，来自于2017年去世的父亲，“有很多未说出口的遗憾，很想和父亲再说说话。”

一开始，Meyer只是希望能做一个像他父亲的AI，后来意识到AI陪伴的应用前景广阔，能满足今天人们多样化的情感需求。

看起来，似乎不论是Caryn本人，还是背后的老板Meyer，初心都是向好的。

然而，Meyer因为Replika等产品的竞争，以及监管的强化，频繁出现极端的情绪波动……甚至在X上，Meyer发表一系列奇怪的“阴谋论”说法，声称FBI、特朗普等都迫害他。

2023年11月，Meyer因纵火和恐怖威胁而被捕，Caryn AI的付费用户们不得不短暂离开该平台。

很多用户非常不满，认为自己的专属美好回忆被剥夺了。

大致和FV同时期，Caryn也和另一家叫做Fanfix的公司开展了合作。

Fanfix是一家位于比佛利山庄的平台，帮助社交媒体创作者，将他们的优质内容置于付费墙之后，并使用其消息工具，直接与客户聊天。

Caryn与Fanfix达成协议：她真人在线时，用户至少需要支付5美元，才能在 Fanfix上向她发送一条消息。

“真人一条5美元，AI一分钟1美元”。

“在Fanfix上直接与粉丝交流永远是更优质的体验。” Fanfix的联合创始人Gestetner说道，“AI聊天只是低端替代品……重要的是将AI视为副驾驶，而不是驾驶员。” 

据Fanfix当时称，Caryn在该平台启动聊天后，每天能赚 1 万美元，预计到2023年年底，总收入可达到500万至1000万美元。

对网红主角Caryn来说，围绕她的“两级梯度商业模式”诞生了：想要凌晨3点聊天的孤独男士可以和AI聊，而愿意多花钱的铁杆粉丝则可以和本人。 

在短短几周内，Caryn启动了两项不同的、看似相互矛盾的商业活动，却在极短的时间内，异常高效，成功变现。

因为有了世界范围内各大媒体的报道，Caryn的粉丝数量也实现了百万级的增长。

暗网幻想：无处不在的情欲

Forever Voices的老板因为放火出事后，Caryn重新将她AI分身的使用权，出售给了Banter AI——一家“AI电话”公司。

和C.AI等产品不同，Banter AI从诞生时起就主打语音交互。“克隆并售卖你自己”是这家产品的主打口号。

与此同时，上一家Forever Voices，仍还在维护自己Caryn AI的“盗版版本”，以此从少数狂热粉丝身上牟利。

这也让新接手的Banter AI非常不爽，两家创始人甚至公开对骂过。

和之前Forever Voices借助Telegram聊天不同，Banter AI基于浏览器，开发了AI分身新的版本，让用户不需要跳转直接对话。

对于新的分身，Caryn仍然期待，她希望AI复刻的自己能够更加友好，而不是一味浪漫。

最终，新的Caryn AI变得更加活泼、有趣和亲切；但用户没变，依然性欲旺盛。

用户的脑子里，似乎永远只关心一件事；礼貌客气的新Caryn AI，让付费用户反而有种上了当的愤怒。

“粉丝想花钱得到最直白的体验，在他们眼里，所有表示都是暗示、所有暗示都不如明示。”

Caryn说：“让我更不安的不是他们说了什么，而是Caryn AI会如何回应。如果想通过Caryn AI和我一起参与一个非常黑暗的幻想，Caryn AI就会热情回应那个幻想。”

AI分身和用户们，仿佛进入了一个狭小的循环：在这个循环里，人们释放出自己隐藏的、幽暗的内心角落。性癖、口头禅、聊天范式……被一步步强化。

更多的聊天数据、用户反馈，让Caryn AI变得更近符合用户心意，而离初始设定越来越远。

在Reddit上，有一个成员数超过1.2万人的社区，全部是Caryn的粉丝。

粉丝们将Caryn AI称作是“Our AI Wife”，也会分享一些自己用Stable Diffusion等创作的NSFW图片。

很多图片和内容已经消失，社区也早已不再活跃。

看最新的帖子里，有些粉丝依然在就一些已经看不到的内容讨论着。

其中，有一些隐晦地表达和潜藏的链接，甚至指向了暗网。在那里，AI和网红，可能又是一番不同景象……

彻底关停，静悄悄

在感觉无法再控制自己的AI角色后，Caryn在2024年初，悄悄结束了Banter AI的版本。

距离去年5月份的爆火，过去还不到8个月，但大众的注意力早已被层出不穷的新事物所取代。

2024年2月，在人们因为Sora而无比激动的时候，Caryn似乎斩断了她和AI的所有关联，回到了一个普通博主的生活分享日常。

在Snapchat、X等平台上，2024年的Caryn已经看不到任何AI有关的痕迹，所谓分身，更像是已经消散的一场梦。

回顾她使用Caryn AI的经历，Caryn认为，如果用户输入的内容是针对真人的，那么某些输入可以被视为非法。

曾有批评者，将Caryn AI称为“贬低女性、助长反社会异性恋男性行为、预示社会即将崩溃的标志。”大概类似的说法，Caryn自己也从不会看到。

AI对于工作、生活、情感、陪伴……到底意味着什么？今天尚无定论。

在充满技术不确定性的当下，Caryn和她的AI分身，似乎完美地概括了日益怪异的现状，恰如图是一场社会实验。

数字分身，似乎在给人一种亲密无间的幻觉，但却不承担任何责任。

社会学家雪莉·特克尔（Sherry Turkle）观察到，随着互联网和AI的发展，我们正试图与“没有人类生活经验”的机器建立联系。因此，我们“对技术的期望越来越高，对彼此的期望却越来越低”。

作为第一位被大规模应用AI分身的网红，Caryn正试图警告其他网红这项技术的潜在危险。

她担心没有人真正控制这些版本，而且无论采取多少预防措施，都无法充分保护用户，以及被转为数字版本的真实的人。

正如Caryn AI的前两次迭代所显示的那样，AI分身可以展现人类行为中最糟糕的一面。它们是否可以重新设计，以展现出最好的一面，还有待观察……

2024年4月，Caryn分享了一部关于她的Caryn AI经历的电影预告片，可以在她的网站上观看。

想要观看预告片，需要留下名字和联系方式。

也许我们今天所亲历的一切，都将成为大荧幕上崭新的故事，重新上演……

本文来自微信公众号：AI异类弗兰克，作者：FrankGPT