正确的提示信息

扫码打开虎嗅APP

从思考到创造
打开APP
搜索历史
删除
完成
全部删除
热搜词
2023-11-23 08:17

从OpenAI政变,看AI的暗面

本文来自微信公众号:琢磨事(ID:zuomoshi),作者:老李话一三,原文标题:《AI的暗面:Sam Altman从OpenAI离职又回归的新视角》,题图来自:视觉中国

文章摘要
本文从Sam Altman离开OpenAI、再次加入OpenAI的事件出发,探讨了AI发展的暗面。文章指出,当理想极端化时,可能成为实现其威胁的最大因素;暗箱操作和阴谋对整个组织不利;自底向上的纠错机制对AI发展至关重要;AI“执剑人”需要新的机制和制衡。文章预测Sam Altman重回OpenAI将推动其崛起。

• 当理想极端化时,可能成为实现其威胁的最大因素

• 暗箱操作和阴谋对整个组织不利

• 自底向上的纠错机制对AI发展至关重要

看到新闻说Sam Altman重回OpenAI,这暂时为这场大戏画了个句号。但此事绝对足以写入AI发展历史,所以换个视角再做下解读。(正面的解读参见:Sam Altman卸任CEO的几点猜想


当理想成为阴谋的素材


你把班级同学聚在一起吃饭都没那么容易,何况罢免公司的一号、二号人物。所以这一定是一个强组织的事,强组织的事如果没有明面的结构,就必然有暗组织与暗主导。(非事后诸葛,参见前文)


而落到具体方法上,6个人的董事会,首席科学家Ilya就很关键,因为他是真正的一级利益相关者,他在公司里面,本来应该坚定地站在对公司有利这一面;而只要他不倒戈,那就无法罢免Sam Altman。但很不幸,这兄弟更像是个纯粹的理想主义者,不单想捍卫自己的理想,还在自认为正确的信念下积极行动。他捍卫自己理想纯粹性的行动,几乎把理想的载体(OpenAI)干稀碎。


这就是第一个暗面:当你极端化你的理想和信念的时候,你可能就是实现它的最大威胁。尤其当野心家存在的时候。


我有时候就想天才科学家是不是不要干CEO或者政治家干的事,这俩事一个太综合一个则太纯粹,实在差别太大。


从不缺席的密室谋划


也许我们到最后也不一定搞清楚,其余三位董事到底是怎么联合起来的,但显然没有他们赋予的责任那么阳光。他们号称使命是为人类负责,但其实更多考虑的恐怕是不太能说的因素,甚至都不能对OpenAI负起责任。


最终OpenAI的员工的选择其实反衬着Sam Altman并没有真的背弃自己的理想,但在这样的一个时候,暗箱运作,阴谋出手,把Sam Altman搞下去,再怎么粉饰也是野心家。这不只是对Sam Altman,而是对整个组织不利的行为,这是董事应该做的事么?


行事的方式上也明显的鬼鬼祟祟,连Greg Brockman都是被突然通知,被干成一脑袋问号。这不就是暗箱策划突然发难么!对于一个奋斗了七年多的核心团队,并且还在危机四伏的时候,突然这么来一下,中国历史上还真就和刘邦抓韩信差不多,十分神似。


这是另一个暗面:总是有堂皇的理由来粉饰某种行动,但当手段足够阴暗的时候,很难拿目的正当性来粉饰它。即使粉饰了,旁观者也一定不能相信(显然的,Ilya Sutskever这个首席科学家信了,还帮着吆喝和助力)


创过业的同学大概都知道,人脑每天带宽差不多是满的。所以Sam Altman未必不知道董事会有点够呛,但肯定没预料到会突然行动,也没预料到Ilya的倒戈。


勇于谋事,无暇谋身,结果差点没挂了。这和故事里的主角们正在踌躇满志,征战天下,然后突然被暗杀了其实差不多。


真要追究,动因其实也就那么多,在过去利益冲突远多于理念冲突,也许更富裕之后会改变这种配比,现在还不行。


自我纠错机制


Sam Altman的回归似乎应该感谢OpenAI的员工们。


董事会任命CTO Mira Murati为CEO应该是预先考虑的平稳过渡方案中很关键的一环,至少是第一步。


按正常套路如果这美女倒戈再辅助在内部收拾局面,那也许事有可为,但有意思的是大家齐刷刷不买账(90%以上员工主动站队)。大家态度很明显:你们这什么套路,我们不接受,也没得谈,要么一拍两散,要么就纠错。


这里面Greg Brockman不接受是引子,但他确实有足够动因这么做,后续的这些就相对会罕见一些。尤其是CTO Mira Murati,这可是传说中的升职加薪,人就是不干。这次阴谋不敌理想。


再深一层,这是什么概念呢?


这意味着在董事会层面纠错机制失效的情形下(有法律确保的权利机制)本来没发言权的人团结了起来,然后变成了重要力量。


这七百多人的统一组织,如果没有一定的统一认识和基础,绝对不可能。让这七百多人统一行动估计很多时候比管好一个城市都费劲,所以我们有理由相信这是自底向上的。


这种机制会非常关键,尤其当GPT5一路迭代而来的情况下。


这里确实会变成AI最大的暗面。


AI“执剑人”


这事的无厘头在于,这是一个号称为人类负责的董事会做出来的事。


如前所说,这个董事会看起来不单不能为人类负责,甚至还不能为OpenAI负责。(相当于90%多人投反对票)


如此无厘头的行为最终如果追溯,动因肯定不好看。


所以碳基智能体属实不怎么靠谱。


发展下去,当AI变得足够强大,总是有那么一小波人会被选出来作为执剑人。这能靠谱么,不靠谱的话这就是最大的暗面。


(当然最基础的部分肯定是法规,但现实空间和数字空间的时间流速其实不一样,以慢制快的问题会越来越暴露得更清楚。)


所以到后面确实需要新的机制和制衡,比如开源、透明等等。


后续


后续会发生的事其实倒相对明朗一些,如果Sam Altman确实回到OpenAI,那它后面彻底崛起大概率会发生。什么商业和技术理想的平衡,在这个例子上绝对不是大障碍。乔布斯、马斯克这些人哪个不是把这两者搞成了互相促进,而不是对立。


为什么这么说呢?因为一定程度上,这次波折可以看成是苦难辉煌里的苦难部分。这之后权力结构肯定会重构和再平衡,但更关键的是这会变成一个超级团队,700多个本来奇形怪状、各有主张的人,彻底团结到一起,更加协力,再加上资金不缺和此前的先发优势,那恐怕真会一骑绝尘了。


还没完,老套故事里通常会发生的事情是Sam Altman这个角色会黑化一点,黑化的结果就是没那么信任周围的人,变得更加集权,这如果过度就会很像皇帝晚年,反倒是会对组织构成更大的伤害。但这哥们看着确实不像是这种风格。


希望不会,毕竟这世界还是需要一个领头的AI团队。毕竟在这个时间点AI不是太强,而是还弱,离一个全行业的盈亏平衡点还有几分距离。


小结


最终的结果取决于什么呢?看起来取决于原点上的价值结构。山川河岳,文化历史所汇集成的价值结构。越数字、越智能主观,这一点就越重要。


本文来自微信公众号:琢磨事(ID:zuomoshi),作者:老李话一三

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系 hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
打开虎嗅APP,查看全文
文集:
频道:

别打CALL,打钱

赞赏

0人已赞赏

大 家 都 在 看

大 家 都 在 搜

好的内容,值得赞赏

您的赞赏金额会直接进入作者的虎嗅账号

    自定义
    支付: