Ilya Sutskever创立SSI，专注安全超级智能

本文来自微信公众号：APPSO （ID：appsolution），作者：时刻在线的 APPSO，原文标题：《突发 | OpenAI 前首席科学家 Ilya 宣布成立新公司，携手前苹果 AI 高管打造安全超级智能》，题图来自：视觉中国

今天凌晨，OpenAI前首席科学家Ilya Sutskever向外界透露了他的最新动态。

不要再问Ilya去哪了，他宣布创立了一家名为“安全超级智能”（Safe SuperIntelligence，简称SSI）的新公司。

而在五月中旬，Ilya官宣从OpenAI离职，并表示会在“适当的时候”披露他的下一个项目。

SSI公司的唯一重点，是开发安全、强大的通用人工智能（AGI）系统，Ilya认为“这是我们这个时代最重要的技术问题”，而且公司短期内无意销售各种AI产品或服务。

这意味着，他将继续自己的研究工作，避免像OpenAI、Google和Anthropic等竞争对手所面临的诸多干扰。

用Ilya的话说，那就是“公司将会完全屏蔽外界的压力，不必应对复杂的大型产品，也不会卷入激烈的竞争之中”。

如同新公司名字所描述的那样，Ilya将AI安全视为重中之重。但目前Ilya并未明确如何让一个AI系统比另一个更安全，或者究竟是什么让它变得安全。

不过，但他也透露，新公司将会尝试通过将工程式创新融入AI系统来实现安全性，而不是依赖事后添加的技术限制。

我们所说的安全，是指类似于核安全的级别，而不是简单的“信任与安全”概念。

值得一提的是，Ilya不愿公开新公司的资金来源，也未透露他筹集的具体金额。

Ilya新公司的另外两位联合创始人分别是Daniel Gross和Daniel Levy。

Gross是一位投资者，也是前苹果公司AI部门的负责人，因支持包括Keen Technologies在内的一些知名AI初创公司而备受关注。Keen由著名程序员、3D游戏之父约翰·卡马克创立，旨在开发AGI。

公开资料显示，Gross因创办的Greplin公司受到赏识而加入YC。后来，更名为Cue的Greplin公司在2013年以约4000万美元的价格被苹果收购。

借此，年仅23岁的Gross也就成为了苹果的技术总监，主要负责机器学习与搜索业务。

在苹果公司任职期间，Gross主要负责将机器学习技术融入iOS和macOS操作系统中，比如从通信记录中智能识别并提取联系人数据，然后将这些数据整合进通讯录等应用之中。

新公司将在加州帕洛阿尔托和以色列特拉维夫设立办公室。而Ilya和Gross都在以色列长大。

Levy则因在OpenAI与Ilya共同训练AI模型而广受赞誉。

“现在是开展这样一个项目的最佳时机。”Levy说，“我的愿景与Ilya相同：打造一个精干、专注的小团队，致力于实现安全超级智能这一目标。”

彭博社指出，SSI更像是OpenAI初心的回归，但从经济角度来看，它对投资者而言更像是一场赌博。不过鉴于创始团队的背景，SSI并不缺乏资金支持。

谈到与OpenAI CEO Sam Altman的关系时，Ilya表示两人关系“很好”，并补充说Sam对他的这项新事业“基本了解”。

以下是SSI公司的公告全文：

超级智能已经触手可及。

构建安全超级智能（SSI）是我们这个时代最重要的技术难题。

我们已经启动了世界上第一个专注于SSI的实验室，目标和产品都只有一个：安全超级智能。

这个实验室名为“Safe Superintelligence Inc”。

SSI是我们的使命、我们的名称和我们的整个产品路线图，也是我们唯一的关注点。我们的团队、投资人和商业模式都将致力于实现SSI。

我们将安全性和能力视为通过革命性工程和科学突破来解决的技术难题。我们计划尽快提高能力，同时确保安全性始终保持领先地位。

这样，我们就可以安心地扩展规模。

我们专注于一个目标（SSI），这意味着不会受到管理开销或产品周期的干扰。我们的商业模式可以确保安全、进步等都不受短期商业压力的影响。

作为一家美国公司，我们在帕洛阿尔托和特拉维夫均设有办事处。在那里，我们有着深厚的根基，并有能力招募顶尖的技术人才。

我们正在组建一支精干、顶尖的团队，由世界上最优秀的工程师和研究人员组成。他们将专注于SSI，不做其他任何事情。

如果你是这样的人，我们将提供一个机会，让你从事一生的事业，帮助解决我们这个时代最重要的技术挑战。

现在是时候加入我们了。

Ilya Sutskever，Daniel Gross，Daniel Levy

June 19，2024

本文来自微信公众号：APPSO （ID：appsolution），作者：时刻在线的 APPSO