扫码打开虎嗅APP
本文来自微信公众号:David的AI全景图(ID:aifromchina),作者:李光华DavidLee,题图来自:视觉中国
OpenAI事件暂时尘埃落定。有朋友问:支持Ilya被打脸了吧?
打脸就打脸吧。
其实,我对权力或利益之争没太多兴趣,也没有预测过什么结局。没有微软的股票,也没有和任何人打过赌。谁对谁错,也并不重要。
我把观察到的几个冷门细节,有的可能是非共识,分享一下:
1. 自2019年OpenAI转向微软之后,微软已经投资了至少130多亿美金。从Satya和Sam结盟的关系来看,OpenAI属于微软只是形式问题。这一点从Sam引入微软就开始了。但不管怎么样,半独立至少比被微软完全合并要好。
2. Sam的公关能力很好。他的导师Paul Graham也说,“没有人比Sam更擅长处理这种紧急情况了。”
3. 董事会表现非常糟糕,没有提供任何解雇Sam的有说服力的信息,无法向员工交代,在临时CEO要求拿出证据时,也没拿出证据。到现在,还是不理解几个董事,整个过程一言不发。倒是临时CEO在任期间,撮合了谈判。
4. Ilya表示后悔,还签署了要求董事会辞职的联名信,据说他被Greg的家人流泪劝说感动到了。不过,我们最关心的是:开除Sam的原因是什么?为什么他用如此激烈的方式?至今我们都不知道。
对关注AI安全的人来说,AI安全警报尚未解除。希望Ilya的“超级对齐”项目,能真的拿到20%的计算资源,4年内能实现“超级对齐系统”,或者更早,因为最近AI进展加速了。
5. 比如Q*,昨天就有新闻出来了。虽然有不同的声音,感觉终于离事件原因近了一点。
6. 还有一个重要消息:“Ilya克服了数据的限制,可以合成数据来训练模型。”一直以来,AI依赖人工标注数据。以至于有个话糙理不糙的说法:“有多少人工,就有多少智能。”比如前些年NLP领域发展最快的机器翻译,很大程度上就因为有现成的平行语料(原文译文)。这又是一个大的AI加速因素。
7. 95%的员工签署了联名信,众志成城?据说有匿名调查显示不少员工不是出于自愿。至少也应该看看一些不同的声音:
8. OpenAI联合创始人Karpathy说他正在考虑中心化和去中心化的问题。我认为这是真正重要的问题。
9. 如果经此事件,大众对AI安全再一次普及认知,那也是世界很大的一个收获,收获一股AI风险的制衡力量。
10. 另外,AI在变得多极化:谷歌Deepmind、微软、OpenAI、亚马逊+Anthropic、Meta的开源Llama阵营、X.ai,外加欧洲的Mistral、中国的大模型厂商们。
AI扩散,多权分散而不是垄断,对世界是好事。如果加速不可避免,分散是更安全的选择。
11. 尽管Musk和Sam不合,尽管事态往Musk并不愿意看到的方向发展,X没有(至少没有人怀疑它)干预事件信息。Sam、OpenAI、微软、媒体、大量的当事人全程通过X对世界发布信息。X做到公正、让人信任,这值得尊重。
像Trump和Musk这样的人,有一些被人诟病的缺点,没有完美的人设。活在聚光灯下,至少也是一种坦诚和透明。
12. 就在OpenAI事件结局的昨天,SpaceX又发射了23颗卫星。
随后在感恩节宣布开源了初代特斯拉Roadster的一切设计和工程文件。
13. AI安全危机仍未解除,但越来越多的大众开始关注,人类走出地球摇篮,成为跨星际物种的努力也在继续,多少有些欣慰。
本文来自微信公众号:David的AI全景图(ID:aifromchina),作者:李光华DavidLee