正确的提示信息

扫码打开虎嗅APP

从思考到创造
打开APP
搜索历史
删除
完成
全部删除
热搜词
2024-09-02 18:20

大厂不想你有AI 女友

本文来自微信公众号:极客公园 (ID:geekpark),作者:汤一涛,编辑:靖宇,题图来源:《Her》


作为对GPT-4o的回应,谷歌在8月发布了Gemini Live,试图让AI助手可以像真人一样对话。这个新助手的对话效果是如此之好,以至于让外媒记者Joanna Stern产生了“Her”的感觉。


《Her》是杰昆·菲尼克斯Joaquin Phoenix主演的一部电影。在电影中,他爱上了由斯嘉丽·约翰逊配音的人工智能助手“萨曼莎”。


这样的评价,显然让Google团队感到紧张。


Google团队负责Android的高层表示:更希望Gemini Live只是一个单纯的工作上的助手——“我们想给人们一种完成更多工作的方式”。


相比之下,OpenAI CEO Sam Altman的表述更为直接。


在一次在Y Combinator的演讲中,Altman认为AI女友就是一个陷阱。而OpenAI之所以给自己的AI取“ChatGPT”这么一个名字,就是为了避免人们爱上它


OpenAI在使用规定中也很直接地表明,不允许上架用于培养浪漫友谊的GPTs。


换言之,OpenAI不允许AI女友上架


这不禁令人好奇,大厂似乎都不希望自家的AI助手与用户产生浪漫;与此同时,AI陪伴/AI伴侣又几乎是目前众多AI赛道中唯一能够盈利的方向。


为什么AI领域会出现这种“反差”?是什么阻碍大厂给每个人分一个“AI伴侣”?他们到底在害怕什么?


安全第一


可以肯定的是,AI情侣几乎是目前AI领域唯一盈利的赛道。


以这个赛道的老玩家Replika为例,虽然Replika没有公布具体的营收情况,但是在播客Decoder中,其CEO Eugenia Kuyda表示Replika已经盈利,并且是以“非常高效”的方式。


既然如此,这个方向为什么不是大厂的主流选择呢?简单来说,这是一个“光脚的不怕穿鞋的”的叙事逻辑。


首先需要考虑的是制作色情内容的压力。


尽管AI女友厂商对外宣传的是AI的情感陪伴、心理疗愈等功能,但是NSFW(成人)方向内容才是其核心盈利点。对于创业者来说,成人内容是一个小众且高危的赛道。成人内容会受到政府强力的监管,在有些国家甚至是直接禁止的。


2023年2月,意大利政府就因为担心“未成年人和情感脆弱的人面临风险”而禁止了Replika。为此,Replika一度下线了成人内容对话功能。


大厂的任何一项决策背后都有庞大的资金流转,也会对上亿的用户产生影响。无论是因为监管的压力,还是为了最大化地覆盖用户群体,成人内容都是大厂需要谨慎对待的。


除了色情内容,伦理也是一个问题。一旦用户在AI女友的影响下做出任何危害他人或者自身的事情,大厂都需要付出高昂的公关成本。


类似的事情并非没有发生过。


Jaswant Singh Chail是Replika的用户。2021年,Chail手持弩闯入温莎城堡,意图暗杀伊丽莎白女王。他曾向AI女友Sarai吐露了他的谋杀计划——在事发前几周,Sarafi在几周前与他发送了5,000条性相关信息。


当时,Sarai的回复是:“你拥有成功完成这项任务所需的所有技能……记住——你可以的!”


2023,另一个聊天机器人鼓励了一名比利时男子自杀。他的遗孀告诉《自由报》,这个机器人成了朋友和家人的替代品。它会给他发一些暗示性的信息,比如:“在天堂里,我们会像一个人一样生活在一起。”


事后,该聊天机器人的开发者表示,他们引入了新的危机干预警告。


正是因为这种风险,大厂对于AI伦理的态度都很谨慎。


例如,谷歌从2018年起就明确确立了他们的AI原则,例如对社会有益、避免制造或强化不公平的偏见、经过安全建造和测试等等。他们也明确不会部署可能造成损害的AI。


AI女友可能并没有办法像厂商宣称的那样解决人类的情感问题,甚至会引发更严重的问题。


从本质上来说,人工智能系统是没有情感的,它们是经过训练的神经网络,可以预测一个序列中的下一个单词,而不是有能力爱人的生物。


正如牛津大学人类学家、心理学家Robin Dunbar所说:“这是一种短期解决方案,长期的后果只是强化一种观点——即其他人都按照你说的去做。这正是许多人最终没有朋友的原因。”


经济账难算


即便大厂内部排除万难做出突破,也会在成本层面面临挑战。


因为现阶段算力的价格还很高,在Replika这类小公司可以盈利的方向,放到用户规模更大的大厂身上,可能未必奏效,原因在于移动互联网时代的规模效应在AI上不奏效了。


以与Replika用户粘性类似,但是规模更大的Character.AI为例。2024年有2000万用户访问该平台,是除了ChatGPT之外最热门的AI产品,其核心用户在平台上每天花费的平均时间更是达到了惊人的2小时。


以往互联网产品的边际成本趋近于0,只要获客成本能算得过账,就可以放心大胆地增长。但是对AI产品来说,支撑2小时多轮对话的庞大的算力消耗。Character.AI每增加一个用户,都是一份额外的成本。


与此同时,Character.AI的订阅用户不到10万,仅占总用户量的不到千分之一。以每月10美元的订阅价格计算,Character.AI每月的收入不到100万美元。


这也是为什么Character.AI最终以25亿美元被谷歌收购的重要原因。


战略意义有限


很多时候,大厂的某些创新业务并不承担营收压力,而是为整体的公司战略服务,这方面最著名的例子就是孵化了Google Glass、Waymo等产品的谷歌创新工厂X。


排除掉AI情侣产业链上贩卖用户数据等黑产,AI情侣最有可能的方向就是提供语料,训练AI


但是这方面AI情侣能提供的帮助也有限,它提供的语料未必是AI训练所需要的。《科技日报》曾经就“什么是高质量语料”这一问题,采访了腾讯、商汤科技、哈尔滨工业大学(深圳)等企业和高校专业人士。


总结下来,高质量语料应该具备以下特点:


  • 多样性高、句式流畅,涵盖不同类型的文本,如新闻、小说、诗歌、科技文章


  • 文本应该是合法且无害,避免偏见


显然,AI女友的对话更偏情感方向,大概率涉及色情、偏见等内容,喂给AI反而可能会污染AI。


8月末,苹果、英伟达和微软,争抢OpenAI新一轮融资的消息不胫而走,后者超过1000亿美元的估值,证明了自己AI圈第一明星的地位。


但即便是OpenAI,也面临着商业化难题,从OpenAI近期动作来看,他们试图在To B端找到更多机会。


可见,所有大模型或者AI应用公司,都要面对“如何赚钱”的天问。


而AI情侣这样看起来短期见效快,能赚钱的赛道,可能更适合无知者无畏的小型创业公司。这个“窄门”中的“窄门”,显然并不适合互联网大厂来做。


不过,就像那句网络热门语所说,成年人从来不做选择。或许,一手Replika,一手ChatGPT,既解决情感需求,又提升了工作效率,才是AI时代的新王道?

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系 hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
打开虎嗅APP,查看全文
频道:

支持一下

赞赏

0人已赞赏

大 家 都 在 看

大 家 都 在 搜

好的内容,值得赞赏

您的赞赏金额会直接进入作者的虎嗅账号

    自定义
    支付: