正确的提示信息

扫码打开虎嗅APP

从思考到创造
打开APP
搜索历史
删除
完成
全部删除
热搜词
2024-03-04 20:34
OpenAI AGI时间表疑似泄露,神秘模型Q*细节曝光

本文来自微信公众号:APPSO (ID:appsolution),作者:莫崇宇,原文标题:《OpenAI AGI 时间表疑似泄露!神秘模型 Q* 细节曝光,马斯克起诉风波或让 GPT-5 推迟发布》,题图来自:视觉中国

文章摘要
本文报道了OpenAI AGI时间表疑似泄露的情况,以及神秘模型Q*的细节曝光。文章介绍了马斯克起诉OpenAI的背景和焦点,并探讨了OpenAI的开源承诺与实际行动之间的矛盾。同时,文章还涉及了OpenAI与微软的合作以及开源和闭源的较量。

• 💥 马斯克起诉OpenAI,质疑其不够开源,要求恢复开源状态。

• 🔄 OpenAI的闭源做法引发争议,受到内外批评,包括图灵奖得主Yann Le Cun的质疑。

• 🚀 OpenAI的神秘模型Q*的细节曝光,时间表显示其目标是在2027年实现完全的AGI。

马斯克的一纸诉状再次将 OpenAI 推上风口浪尖,或许还把 GPT-5 的发布时间推迟了。


这场官司的焦点主要归纳为以下几个方面:


  • OpenAI 的开源承诺和实际行动之间的矛盾;


  • OpenAI 与微软的合作是否背离了其最初的开源原则;


  • OpenAI 的治理结构和决策过程,特别是与 AGI 相关的发展。


开源和闭源的较量


作为联合创始人,埃隆·马斯克在 OpenAI 创立之初,便致力于打造一个开放的人工智能研究机构,推动技术的透明度和共享,确保人工智能的进步能够惠及全人类。


他曾在采访中透露,OpenAI 的名字是他所起,并强调自己在招募关键科学家和工程师方面发挥了重要作用。


据《纽约时报》报道,在 Google 收购 DeepMind 后,虽然马斯克凭借投资大赚了一笔,但他并不希望 AI 被 Google 这样的大型公司所控制。


因此,马斯克在 2015 年联合他的前 PayPal 伙伴以及其他投资者承诺向 OpenAI 这个项目投入 10 亿美元,并让当时 30 岁的 Sam Altman 协助运营。为了启动这个项目,他们甚至从 Google 挖来了 Ilya Sutskever。


将时间拨回上个月,马斯克还在 X 平台上分享了多张 OpenAI 早期的珍贵照片,记录了英伟达 CEO 黄仁勋在 2016 年向马斯克和 OpenAI 捐赠首台 DGX-1 AI 系统的场景。


To Elon & the OpenAI Team! To the future of computing and humanity. I present you the World's First DGX-1!            


致埃隆和 OpenAI 团队!致计算和人类的未来。我为你们呈上全球首台 DGX-1!


诉讼文件还详细列出了他在 OpenAI 起步阶段的财务支持,在 2016 年至 2020 年间总计捐赠超过 4400 万美元,并成为当时最大的捐赠者。


起诉风波发酵之后,迅速卷起了舆论风暴,不少赞成马斯克的网友们纷纷成为了马斯克的忠实粉丝,而反对者则纷纷发声,不乏“格局小了”等批评言论。


但随着马斯克公开一份秘密的“电子邮件”,舆论的风向标开始迅速调转。


这封邮件是在 OpenAI 成立前夕,马斯克于 2015 年 6 月发给 Sam Altman 的,内容涉及了 OpenAI 的使命、团队规模、治理结构、技术所有权、研究人员的回报以及监管信函的发布策略。同时邮件中提到的内容也与 OpenAI 现在官网上的宗旨相呼应。



1. 我们的使命是创造首个通用人工智能,并将其用于增强个人能力,即创建一个看似最安全的分布式未来版本。更广泛地说,安全性应该是我们的首要考虑。


2. 我认为我们最好从一个 7 到 10 人的小团队开始,并计划从此基础上扩大。我们在 Mountain View 有一座额外的建筑,可以供他们使用。


3. 关于治理结构,我建议我们起初由5人组成,包括你、[空白]、[空白]、[空白]和我。技术归基金会所有,旨在“造福世界”。对于如何应用这些技术的不明确情况,由我们五人作出决定。


研究人员将获得重大的财务回报,但这与他们的研发成果无关,这样可以避免一些利益冲突(我们会提供具有竞争力的薪酬,并通过 YC 股权分享增值收益)。我们将持续讨论哪些成果应公开,哪些不应公开。我们计划最终找人来负责团队,但这个人最好不要参与治理委员会。


4. 除了参与治理,你是否还会以其他方式参与?我认为这对于确保工作朝着正确的方向发展、吸引顶尖人才非常重要。理想情况下,你能定期来访,每月或根据需要与他们讨论进展。我们通常称这种有限参与 YC 的人为“兼职合伙人”(例如,我们和 Peter Thiei 就是这样合作的,虽然他现在参与得非常深入),但我们可以根据你的偏好来命名。即使你实际上没有太多时间参与,但如果能公开表示支持,也将极大助力于团队的招募工作。


5. 关于监管信函,我认为最好的策略是等到这个项目启动后再发布,届时我可以附上一条信息,比如“现在我们已经开始这项工作,我深入思考了世界为了安全需要设定的限制。”我完全尊重你选择不作为签名人。我也相信,一旦信函发布,会有更多人愿意支持我们的立场。


尽管曝光邮件的行为引发了一些争议,但这封邮件无疑将马斯克置于道德的制高点上。


被“伤透了心”的马斯克不仅要求赔偿,更关键的是质疑 OpenAI 不够 Open,要求恢复开源的状态。在他眼中,在 Altman 带领下的 OpenAI 成为微软旗下的“闭源子公司”,是对成立初衷的“背叛”。



更何况,自诩 Open 的 OpenAI 最近似乎也越来越封闭了。


今年 1 月,《连线》杂志注意到 OpenAI 在透明度方面就有所降低。自成立之初,OpenAI 一直对外承诺开放其内部文件。


然而,当《连线》杂志试图获取这些文件时遭到了 OpenAI 的拒绝,后者解释称,根据 2022 年起的新政策,OpenAI 将不再对外公布除必要信息之外的内部资料。


与此同时,截然相反的是,譬如 Meta 的 LLaMA、 AI 界开源黑马 Mistral AI 等开源模型的发展却如火如荼。相比之下,OpenAI 的闭源做法显得尤为突出,一度成为了口诛笔伐的对象。


作为开源理念的拥趸,图灵奖得主 Yann Le Cun 也曾多次批评 OpenAI,此前的采访中,在之前的访谈中,他与马斯克一样,公开表达了对 OpenAI 的不满,认为尽管 OpenAI 保持了一定程度的自主性,但实际上已经成为了微软的合同研究机构。


他进一步强调,OpenAI 已经“不再开放”,并预测 OpenAI 不会成为首个实现通用人工智能 AGI 的公司。


除了外部的批评,OpenAI 的资深员工也表达了自己的看法。前 OpenAI 开发者关系主管 Lenny Rachitsky 在一连串风波之中发布了一条耐人寻味的推文:“开源人工智能对开发者、企业和整个人类社会都是有益的。”



随后他解释说:“这并不是批评那些不开放源代码的公司。这并不意味着开源人工智能模型没有潜在风险。开放性是一个范围,很多人没有意识到这一点。这并不是我立场的转变,我在职业生涯早期就投身于开源工作。”


微妙的是,马斯克旗下的 xAI 团队即将发布 GroK 1.5。如今,无论马斯克的动机是为了人类还是个人利益,他现在起诉 OpenAI,更像是一场关于安全和开源的宫斗大戏的重演。


通往 AGI 之路,还有五年?


诉讼文件有一个论点格外显眼,即马斯克认为 GPT-4 已经具备 AGI 的雏形。而对于 AGI 的到来日期,AI 业界的大佬们一直有不同的看法。


例如,在人工智能博客节目上,DeepMind 联合创始人兼 CEO Demis Hassabis 则表示:“如果我们在未来十年内拥有类似 AGI 的系统,我不会感到惊讶。”


近日,英伟达创始人黄仁勋在斯坦福经济政策研究峰会上表示,AGI 的实现时间很大程度上取决于目标的定义。如果定义是通过人类测试的能力,那么这一目标可能在五年内实现。


作为目前最接近 AGI 的 OpenAI,一份疑似内部人士泄露的文件显示,他们的目标则是在 2027 年内实现 AGI。



OpenAI 在 2022 年 8 月开始训练一个拥有 125 万亿参数的多模态模型。第一阶段被称为 Arrakis 或 Q*。该模型在 2023 年 12 月完成训练,但由于高推理成本过高而取消发布。


Gobi(GPT-4.5)被重新命名为 GPT-5,因为原计划在 2025 年发布的 GPT-5 已被取消。Q* 的下一阶段原计划为 GPT-6,后更名为 GPT-7(计划在 2026 年发布),但因马斯克的诉讼而被搁置。


GPT-8 则计划在 2027 年发布,旨在实现完全的 AGI。


  • Q* 2023 = IQ 达到 48    

  • Q* 2024 = IQ 达到 96(延迟)    

  • Q* 2025 = IQ 达到 145(延迟)


这份长达 53 页的文件指出,参数类似于生物大脑中的突触,是神经元之间的链接,人类大脑中的突触数量大约为 100 万亿个,而 AI 模型的性能似乎可以通过参数数量来预测。大约 100 万亿参数的规模被认为足以达到人脑的水平。



文件还提到了 OpenAI 的新策略———Chinchilla 缩放定律,它表明即使模型参数数量不是最优的,但通过在更多数据上进行训练,性能可以轻松超越人类水平,而 OpenAI 正在将这一缩放定律应用于 Q* 模型的训练。


(附上文件地址:https://drive.google.com/file/d/1xlRDbMUDE41XPzwStAGyAVEP8qA9Tna7/view)


需要说明的是,虽然文件列举的资料详实,但其真实性尚未得到验证,仅作参考。


作为此次舆论漩涡中心的主角,Sam Altman 最近曾表示,GPT-5 将实现指数级的飞跃,人类距离实现 AGI(通用人工智能)已近在咫尺,我们即将见证这一历史性时刻的到来。


然而,面对这次诉讼事件中,Altman 一直保持着沉默。直到昨天,他才意味深长地连发了两条推文:


飓风已经愈来愈猛烈,但风暴中心却仍然保持着平静。        


这一切都发生过,这一切都还将再次发生。


本文来自微信公众号:APPSO (ID:appsolution),作者:莫崇宇

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系 hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
打开虎嗅APP,查看全文

支持一下

赞赏

0人已赞赏

大 家 都 在 看

大 家 都 在 搜

好的内容,值得赞赏

您的赞赏金额会直接进入作者的虎嗅账号

    自定义
    支付: