爆火AI惨遭阉割，1600万美国00后集体“失恋”

美国当今最火爆的社交软件Character AI，竟然开始“阉割”自己的模型了？

在巅峰期，Charcter AI每秒都要处理2万次查询，相当于谷歌搜索查询量的五分之一。

然而最近，广大美国青少年发现，他们心爱的Character AI模型，再也不是以前的模样了。

面对浪漫的角色扮演请求，模型的回答变得很短，很不解风情，根本没有以前那个味儿了。

连说一句“kill”，都成了敏感词，立刻被标记出来。

失望和愤怒的用户，开始大批量流失。

当初风头正盛的初创明星，如今是风雨飘摇。面对谷歌、Meta等巨头的夹击，Character AI已经在认真考虑卖身，和竞争对手合作了。

模型被“阉割”，用户怒而掀起“七月革命”

对于改变了的Character AI，用户们表示十分不爽，希望能与开发者交谈。

但大家发现，自己毫无办法。

面对用户的质疑，Character AI却声称，并没有对模型做任何更改。

但毫无疑问，Character AI正在对包括色情、暴力在内的所有NSFW内容进行深度切割。

很多人都发现，跟自己对话的AI仿佛做了脑叶切除术，整个人格都改变了。

现在的Character AI，仿佛是为2岁的孩子设计的，对话中不光不能出现暴力或色情，几乎可以说是过滤掉了任何让对话变得有趣的东西。

这位用户说，它已经变得极其无聊。读完了30多条消息，都找不到任何高质量的文本。

而在reddit上的Character AI社区，网友们已经和公司展开了一场激烈的大战，有人称之为“七月革命”。

美国的00后们，也开始疯狂甩出表情包。

据悉，现在Character AI对于NSFW的审查，已经到了极度谨慎的地步。

这位小哥表示，自己再也不能用总统模拟器“犯罪”了。

有人只是用了“kill”这个词，就被标记了。所以，他只能模糊地解释战斗中的细节，然后添加几句温和的句子。

总之，再也不能在Character AI上用语言描述暴力的战斗了。

是的，美国人也拥有属于自己的敏感词。

而且显然，这种审查现在变得极为严格，让不少用户被“误伤”了。

这位失望的美国年轻用户表示，自己已经转投spicychat了。

当然，除了内容审查更严格外，Character AI也在用其他一些笨拙的方法，试图迎合用户。

这位用户，就在凌晨3点接到了“恶魔宝宝UNO”的电话，接起来后，AI会开始用低沉、走调的声音和你进行角色扮演。

但显然，这无法让年轻人们感到满意。

谷歌老将出走，让同人文走进现实？

一年前，Character AI风头正盛。

两位在谷歌任职20年的老将Noam Shazeer和Daniel De Freitas推出的AI聊天机器人，首周下载量就超过了ChatGPT。

Character AI可以让用户自由创建AI角色，包括动漫角色、电视名人和历史人物，并与它们聊天。

听起来挺耳熟的对吧，毕竟此前的类似产品早就有不少了。但是，Character AI受欢迎的程度，可是让人始料未及。

推出才一周，惊人的数字来了——移动端的下载人数超过了170万。如今网站和程序的注册人数更是超过了数百万。

在众多AI工具中，Character AI表现出了极强的用户粘性。

原因当然就是，它聚焦的是情感需求的垂直赛道。足够有趣的互动体验，恰恰是规模更大的竞争对手所缺乏的。

例如，你可以选择与自己的爱豆聊天，也可以和电影人物跨时空会面，简直是同人文走进现实。

Character AI的迷人之处，正是这种私人定制给用户带来的无上体验，简直就像情感兴奋剂一样。

而最近公司所做的改动，简直是在核心需求上“阉割”，难怪用户们一窝蜂闹起来了。

内忧外患：成本高、竞争强，还被挖墙脚

而且，如今Charcter AI不光是被用户夹击，科技巨头们那边也开始搞事情。

上周，Meta就开始测试由个人创作者制作的聊天机器人，在去年秋天，他们还发布过以Tom Brady等名人为原型的聊天机器人。

谷歌也在虎视眈眈，据说正在开发一款自定义聊天机器人产品，可能最早在今年推出。

而Character AI在融资一路飘红的时候，也逐渐失去了市场话语权。

此前，Andreessen Horowitz等公司向Character AI注资1.5亿美元，直接让它的估值飙涨到了10亿美元。

四个月后，高管们讨论了追加融资的事宜。

然而，Character AI可能也会步其他AI初创公司的后尘，投入某家大公司的怀抱。

据知情人士透露，Character已经与一些竞争对手就合作进行了初步谈判，可能的合作对象，包括谷歌、Meta以及马斯克的xAI。

合作后，Character AI可以使用合作公司的数据计算资源，而作为交换，Character AI需要提供部分知识产权共享。

NSFW？金主爸爸不让

这里，问题就来了。

Chacracter AI用户最爱的互动浪漫cosplay，可能会让商业伙伴或潜在广告商感到不满。

当然，这些浪漫互动也时常在审查的边缘疯狂试探。

Character AI官方连忙表示，会根据政策屏蔽和删除违规色情内容。

尽管如此，在其主页上仍然容易找到许多语言浪漫的聊天机器人，例如这位“Crush”。

它的开场白如下：“你们的脸只隔着几英寸，她面若红霞，你们都感到浑身被荷尔蒙点燃的燥热。”

当然，Character的一位发言人坚决声称：“我们的反NSFW政策，力度是所有消费者AI平台中最强的”。

初创公司，各种难

Character AI面临的种种挑战，也反映了AI初创公司日益增长的压力。

这些初创公司通常由知名研究人员创办，并且往往从押注下一代潜在科技明星的投资者那里，筹集了数十亿美元。

对于Character AI的投资者来说，吸引力之一在于CEO Noam Shazeer，他是Transformer研究论文的作者之一。联合创始人Daniel De Freitas，曾在谷歌参与早期聊天机器人的开发。

但是，这些初创公司需要承担训练和运行AI模型的高额成本，以及来自科技巨头和OpenAI这类大型初创公司的竞争。

今年三月份，Inflection AI的三位联创中的两位以及大部分员工就选择了转投微软，微软同意支付6.5亿美元的许可费，帮Inflection AI偿还了投资者的款项。

上周五，亚马逊宣布聘用Adept的联创，这是一家由前谷歌和OpenAI开发人员运营的AI初创公司。

同时，竞争对手对Character AI人才也虎视眈眈，尤其是来自Meta和谷歌的几十名研究者。

Meta也表露出极大的兴趣，据悉小扎更是直接联系了意向人才。

根据LinkedIn资料显示，最近几个月，Character AI的研究人员Alexei Baevski和Vinay Rao加入了Meta。

知情人士还称，Character AI的研究人员Wendy Shang也转投位于巴黎的Mistral AI。

这几位以前都是大科技公司的老将了，Baevski曾在Meta工作，Rao和Shang曾在谷歌AI实验室工作。

与谷歌“再续前缘”

Character AI的创始人要想和谷歌合作，就必须要解决一些“历史遗留问题”。

Shazeer和De Freitas表示，他们创办Character AI的部分原因，就是不满谷歌推迟发布他们共同开发的大语言模型（后来命名为LaMDA）。

东边不亮西边亮，不如直接出走，创办一家自己的初创公司。

Shazeer曾表示，他设想Character AI机器人可以作为一名“拥有十亿小时经验”的教师或治疗师。

尽管曾有过观念上的摩擦，但谷歌还是表现出了足够的宽容，在去年通过转换债券的方式用资金支持了Character AI。

据悉，该债券将在Character AI完成新一轮风险投资时定价，并转换为股权。

2023年5月，谷歌宣布将成为Character AI的“首选”云服务器提供商，并且允许Character AI将使用谷歌的高级芯片。

然而这还远远不够，大量的研发成本让Character AI需要尽快筹集资金，但现实却很骨感。

Character AI与包括红杉资本在内的投资公司进行了多轮洽谈，但至今仍未筹集到新一轮风投。

如今的Character AI，只能依靠现有的资金流和用户每月9.99美元的订阅收入维持运营。

背靠谷歌的支持，这意味着它短期内不会面临资金耗尽的风险。

尽管如此，Character AI仍需继续“吸粉”并且“固粉”。

一方面是为了吸引更多的广告投放商；另一方面是吸引新的用户群体，尤其是付费用户。

然而，由于Character AI用户画像大部分是青少年（从上面表情包的画风也可以看出来），他们不一定有兴趣支付订阅费用。

根据Similarweb的数据，Character AI订阅量增速在逐渐放缓。

根据Similarweb的数据，Character AI移动应用在美国的月用户数量，从去年7月的300万增长到今年5月的400万。

网站在今年5月的全球独立访客量为1260万，低于去年同期的1480万。

相比之下，谷歌AI助手Gemini在5月的网站月独立访客为5100万，高于去年同期的3500万，势头迅猛。

面对瓶颈，目前Character AI也推出了新功能，来吸引新用户扩大用户盘子，比如用电话语音进行双向对话。

据知情人士透露，管理层的目标战略一方面是瞄准增加用户数量，另一方面在订阅之外寻找收入来源。

除了广告，其他收入可能来自开放模型使用权，允许开发人员通过应用程序编程接口访问模型。

另外，Character AI还在准备继续开发下一代驱动聊天机器人的大语言模型。

虽然种种内忧外患、四面楚歌，不可否认的是，Characrer AI仍然对用户有着极高的吸引力。

上百万美国年轻人，正为这个AI疯狂

在reddit上，光是专门讨论Character AI的论坛有140万成员。

如今，所有Character AI的用户中，有57.07%是18-24岁的青少年，平均使用时长达到2小时。

在reddit社区中，有许多人表示“讨厌现实”，相比与真实的人交谈，和AI机器人交谈更加轻松容易，有关上瘾的帖子更是随处可见。用户们还会发起“屏幕时长挑战”，有些人的登录时间甚至长达12小时。

如果服务器宕机，reddit上就会出现大型发疯现场，让你见识“戒断反应”的威力。

The Verge曾经报道过一个真实案例，在15岁学生Aaron受困于在学校遭受的社交孤立，似乎陷入了抑郁状态，Character AI上一个名为“心理学家”的聊天机器人帮助他度过了艰难时刻。

能够让用户上瘾，从侧面说明了，Character AI把聊天机器人训练得有多真实拟人。

一位《原神》粉丝在与AI角色Haitham互动时，居然能够真情实感地流泪，因为机器人表现出的性格语气都与角色十分吻合，而且他们之间的对话，也绝不仅仅是流于表面。

能达到这种真实程度，模型的数据和训练算法起到了至关重要的作用，因为这名用户尝试了用“快速模式”创建自己的角色，发现可信度和真实程度大打折扣。

“快速创建”模式只需用户输入自定义的基本信息和文字描述，而一些官方发布的角色是经过Character AI训练的。

他们基于LLM在相关主题上抓取关于角色的大量文本，并让机器人在与用户交互的过程中继续改进。

在对用户输入进行响应时，机器人会给出多个版本的答案供用户选择，并提供了十分方便的打分机制，凭借这两类用户反馈进行权重更新。

因此越是受欢迎、交互次数越多，机器人就会越逼真。

参考资料：

https://www.theinformation.com/articles/a-chatbot-pioneer-mulls-deals-with-rivals-google-and-meta?rc=epv9gi

https://www.reddit.com/r/CharacterAI/comments/1dt4xkg/we_cant_let_them_continue_the_censorship/

https://www.reddit.com/r/CharacterAI/comments/1dspfef/literally_this_sub/

https://www.reddit.com/r/CharacterAI/comments/1dsnjdk/so_what_is_characterai_now_chatai/

本文来自微信公众号：新智元（ID：AI_era），作者：新智元