正确的提示信息

扫码打开虎嗅APP

从思考到创造
打开APP
搜索历史
删除
完成
全部删除
热搜词
2023-11-20 08:35
OpenAI“政变”事件:我支持Ilya

本文来自微信公众号:David的AI全景图(ID:aifromchina),作者:李光华DavidLee,题图来源:视觉中国


先说一些昨天(11月19日)的Update:


X上有不少OpenAI员工转发Sam的推文表示支持,据说微软Nadella和一批OpenAI员工施压董事会,要求Sam回归。


Sam正在和董事会谈判,条件是董事会和Ilya辞职,不然美国当地时间下午5点,OpenAI一批员工将离职。但董事会到时间仍然没有辞职,所以媒体爆出的大反转故事还没有消息。


现在是西海岸半夜,再过几小时可能见分晓。


目前的几种猜测版本回顾


从目前看到的不同分析,大概这几种角度:


1. 政变/宫斗论:比如有人把Sam发的推文I love you all解释成“Ilya”的首字母。认为是Ilya策划的一次政变,他的帝国时代到来——我很不赞同,Ilya和Sam因为利益宫斗的概率很小。如果你看过Ilya的访谈,你会同意他是一个纯粹的人。Ilya热衷于思考哲学和本质问题,比如:什么是思考?什么是智能?什么是学习?从AlexNet时代到GPT3的坚守,没有理想主义和先知一样的思考深度是做不到的。


Sam在YC早已名利双收,从《万物摩尔定律》看,他的UBI也是另一种非常强烈的理想主义。有人把Sam比作乔布斯,但如果你看过《乔布斯传》,年轻时被赶走的Jobs和重归Apple的Jobs已经不是一个人。


2. 阴谋论:微软希望全面控制OpenAI,坐吃红利。而Sam可能在私下接触中东的金主,而引入更大量资金可能导致不可控。微软还特意把时间选在周五,让资本市场有消化时间,避免股价大跌。不过,从“Nadella希望Atman周一回归”的传闻看,这个阴谋论站不住脚。


3. 硅基智能论:更高级的智能穿越时空回来,终止人类愚蠢行为。但愿这不是一个玩笑——这是最好的结局,因为这意味着AGI做到了超级对齐,有能力且有意愿照顾人类。


4. 路线之争:即OpenAI内部的GPT模型有大升级,接近或达到AGI。此时OpenAI内部有两派意见:一派是Ilya和Mira,认为必须慢下来优先解决AI安全的问题。一派则是Sam和Greg,希望通过GPTs、GPT Store等方式,快速建立生态,扩大商业优势。


我个人倾向于第4个角度的分析。如此激烈的冲突方式,大概率因为路线和更深层的理念冲突。


我的想法


1. AI安全可能到某种生死攸关的时刻:从Ilya导师Jeffery Hinton(深度学习之父)因为AI安全的担忧从Google离职,到Ilya最近的言论,大概率OpenAI内部已经有更强大也更危险的模型。


《超级智能》作者Nick Bostrom说过:“以计算机发展规律,如果人工智能的聪明程度接近人类,它的智力用不了多久就会远远甩开人类——差距就像人类与老鼠那样大。”我在今年初收集过一些这方面的观点:



2. 前天(11月18日)注定是要被历史记住的一天,上午是OpenAI事件,晚上是SpaceX第二次星舰发射。


人类成为跨星际物种的时间窗口有限,尤其是在地球上烽烟四起的今天(全球四个火药桶已经点着2个——俄乌和巴以战争)。在这个星球上,有人在割韭菜,有人在策划战争,也有理想主义者在不知疲倦地忙碌,试图保护人类这束宇宙中的微光。



3. OpenAI是一个值得尊敬的公司,它的理想气质,至少让“确保AGI造福人类”的使命,不是挂在官网首页的一句空话。


4. 无奈的是,Sam和Ilya的路线之争,可能甚至于不同的信仰(Sam认为技术要无限加速,越快越好;Ilya认为AGI不是普通的技术,可能反噬人类,要确认好安全的进化起点),恐怕只能二选一。



作为一名产品经理,我喜欢Sam的商业宏图,欣赏他《万物摩尔定律》中UBI的理想主义。


但谁已经被指出“并不总是坦诚”?谁是凝视GPT模型最久的人?谁对AGI有更深刻的认知?


在AGI没有完全浮现之前,如果AGI风险注定要被高估/低估,你愿意选择高估还是低估这种风险?


我支持高估AGI的风险:如果高估了,人类会浪费一些资源,但如果低估了,可能再没有翻身机会。


Sam可能是最好的CEO,Ilya可能是最好的AGI引路人。


作为人类的一员,我支持Ilya。


本文来自微信公众号:David的AI全景图(ID:aifromchina),作者:李光华DavidLee

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系 hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
打开虎嗅APP,查看全文
文集:
频道:

大 家 都 在 看

大 家 都 在 搜

好的内容,值得赞赏

您的赞赏金额会直接进入作者的虎嗅账号

    自定义
    支付: