正确的提示信息

扫码打开虎嗅APP

从思考到创造
打开APP
搜索历史
删除
完成
全部删除
热搜词
原创
2023-11-19 16:22
Sam Altman即使复位,OpenAI的问题还是难以解决

出品|虎嗅ESG组

作者|袁加息

头图|右边两位是被视为“内斗双方”的Sam Altman和Ilya Sutskever。图片来自:视觉中国

 

本文是#ESG进步观察#系列第060篇文章

本次观察关键词:公司治理、AI安全

 

文章摘要
OpenAI首席执行官Sam Altman卸任并退出董事会的事件正在发酵中。投资者要求他重新担任CEO,但无论他回不回来,OpenAI的治理结构和公司内部冲突已经暴露出来,公司治理结构调整成为必然。

• OpenAI的非营利组织结构导致治理结构“奇葩”,无法满足商业化和股东回报的需求。

• 分歧的本质在于“人类福祉”和“AI商业化”之间的矛盾。

• 无论Sam Altman是否复位,OpenAI都无法回到从前,治理结构和精神内核问题需要解决。

Sam Altman卸任OpenAI首席执行官、并且退出董事会的事,仍在迅速发酵中。

 

当地时间11月18日(周六)晚,据外媒援引多位知情人士消息,OpenAI投资者正在向董事会施压,要求Sam Altman重新担任CEO。而董事会正在与Sam讨论此事。

 

似乎人们还抱着一种希望:如果Sam能回到CEO的位置上来,那么或许可以当整件事没有发生过,OpenAI可以收拾分歧,继续前进。

 

但从此次分歧的本质——也就是OpenAI董事会层面的冲突——来看,Sam无论是去是留,OpenAI很可能在这次危机中都不会“软着陆”了。重大的公司治理结构调整已经在所难免。

 

OpenAI“奇葩”的治理结构?

 

在目前国内的很多文章中,分析者往往不能理解OpenAI的董事会和公司治理为什么会这样。于是把它斥为“奇葩”。

 

而OpenAI的治理结构之“奇葩”,根源在于它是一个非营利组织。它的六位董事不把“对股东负责”视为首要职责,于是也不把盈利和股东回报看作最终目标。(所以股东、乃至微软的施压,在原则上对OpenAI董事会没有强制性。)

 

用OpenAI的官方说法:“每位董事必须尽职推动本非营利组织(指OpenAI)的使命——造福全人类的、安全的通用人工智能。……本非营利组织的首要获益人是全人类,而不是OpenAI的投资者。”

 

换句话说,OpenAI的董事会,是凭借对很抽象的“人类福祉”的判断,来掌舵OpenAI的。本次Sam Altman的出局,主流的猜测是因为其他董事会成员认为他背离了OpenAI创立的初衷,过于激进地推动公司的全球影响力和GPT的商业化。

 

如果真的这样,那么矛盾内核,是“人类福祉”和“AI商业化”之间的矛盾。

 

在OpenAI特殊的治理结构中,商业化是受非营利的主体宰制的。出于融资和增长方面的考量,母组织(即OpenAI, Inc.)在2019年创立了子公司OpenAI LP。这个“LP公司”承担了融资和给员工发放股权激励的功能。



图:OpenAI的治理结构。其中中间那个框(Holding Company for OpenAI Nonprofit+employees+investors)就是OpenAI LP。| 图片来源:OpenAI官网

 

在LP公司创立时和创立之后,OpenAI曾多次明示投资者:公司的总原则永远要放在第一位,即便遵守公司原则会有损投资者利益。“投资OpenAI Global, LLC是一项高风险的投资”,“投资者可能损失所有的资本,得不到任何回报”。

 

OpenAI还提到,“怀着捐献的精神去投资OpenAI Global, LLC或许更为明智”。因为如果失败,可能血本无归;而如果成功,在“后通用人工智能”时代,金钱也会变得没有意义

 

只是很多人没有想到,投资OpenAI的风险会以Sam被解职这种方式爆发。

 

董事会何以为“人类福祉”代言?

 

Sam回不回得来,其实都解决不了一个更根源的问题:谁能判断组织行为是否符合“人类福祉”?

 

OpenAI的6位董事,除了被解职的Sam Altman,以及随即辞职的董事长兼总裁Greg Brockman,其余的董事是首席科学家、联合创始人Ilya Sutskever,以及三位独立董事。Sam是被4:2票走的。

 

根据外媒援引知情人士称,Ilya Sutskever一直对Sam激进的融资和商业化动作表示不满,认为他背离了OpenAI的初衷。同时Ilya Sutskever因为是被称为“AI教父”的Geoffrey Hinton的学生,很多人因此猜测他继承了老师对AI风险的极度警惕。

 

此外,三位独董包括Adam D’Angelo、Helen Toner、Tasha McCauley。

 

其中,Adam D'Angelo是有“外国知乎”之称的Quora的CEO。D'Angelo自己也在做一款名为Poe的大模型服务,并且不太对外发表关于AI安全的想法。

 

第二位独董Tasha McCauley在新技术创业领域的经历较为丰富。她曾经参与创立了一家机器人公司和一家地理信息技术公司。同时,McCauley也在两个社会组织中任职,两个组织的工作分别与社区治理和AI伦理有关。

 

第三位独董Helen Toner(下图中右边那位)的专业领域是所有独董中最专注于AI安全的。她是乔治城大学安全与新兴技术中心的核心人物,在OpenAI董事会中大量承担AI安全和影响力评估的工作。

 

图:右边是在一场会议中发言的Helen Toner。| 图片来源:视觉中国


总体上,关于AI安全,OpenAI的董事会肯定有自己的专业判断,但另一方面在外界看来,他们的权威性并不是一目了然的。所以将Sam Altman解职,到底是出于对OpenAI创建初衷和人类福祉的坚守?还有由于一些人猜测的“公司管理层内斗”?这就很难界定。

 

归根结底,任何三五个人都难以令人信服地判断“服务人类福祉的AI”应该怎么做。

 

Sam是去是留,OpenAI都回不到之前了

 

截至本文发稿,“能否请回Sam Altman”仍然没有定论。但是无论Sam回不回来,OpenAI很可能都回不到从前了。

 

当地时间周日凌晨00:47分,Sam Altman发推说:“我这么地爱OpenAI的团队”。似乎在叹息事情的无可挽回。

 

 

紧跟着Sam Altman、Greg Brockman两位创始人的离开,OpenAI的三名核心研究人员随即辞职,这三人是公司的研究总监Jakub Pachocki,一个评估AI潜在风险的团队的负责人Aleksander Madry,以及从公司创始时期就加入的研究员Szymon Sidor。

 

Sam Altman的离职将导致公司团队的分裂。Sam代表着这个非营利机构中的商业化分支,否定了Sam,相当于否定了OpenAI为商业化做出种种治理结构设计,以及对于股东、员工的回报。


而他被开除一天后就又发生了“月下追韩信”的戏码,或许表明董事会低估了自己掌控局面的能力。

 

而即便让Sam Altman复位,也是不可能把局面简单“恢复原状”的。把他辞掉的董事会是不是需要改组?乃至于,OpenAI用一个六人董事会来保证“造福全人类”,这个治理结构本身是不是有效,也是成问题的。如果OpenAI仍然坚持做一个非营利组织,那么就迫切需要找到同时“维持初衷”和“维持运转”的治理方案。而如今,我们依然搞不明白,OpenAI的精神内核在谁身上,它是不是已经拼不回去了。

 

可能吃瓜群众们多数是期待Sam Altman回来的。但是,到底怎样一种治理结构才最有利于兼顾AI的安全性和AI的商业化?这个问题依然是没有答案的。

 

几个月前,Sam曾经在面对彭博社的采访中意味深长地说到,“世界不应该相信我”。他接着说:“我认为董事会需要逐渐向全人类民主化。有许多方法可以实施这一点。我们认为这项技术,其益处,对它的访问权,以及对它的管理权应该属于全人类。如果这真的有效,那么这是一项非常强大的技术。你不应该只信任一个公司,更不应该只信任一个人。”


如今,这个充斥着理想主义的设想,居然到了迫在眉睫需要想办法实现的地步。


OpenAI的危机从一个侧面显示出,为什么“AI安全”是一个如此重要的问题,被上升到国际政治和人类命运的层面。一家公司的治理结构如何精良,也解决不了背后那个大问题。哪怕它是个“非营利组织”。


感谢您的阅读。ESG从业者或对此有兴趣的研究者、投资者,欢迎扫描下面二维码,申请加入我们社群。





本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系 hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
打开虎嗅APP,查看全文
文集:
频道:

支持一下

赞赏

0人已赞赏

大 家 都 在 看

大 家 都 在 搜

好的内容,值得赞赏

您的赞赏金额会直接进入作者的虎嗅账号

    自定义
    支付: