又一华人高管离职，OpenAI总裁提前归队

出品｜虎嗅科技组

作者｜孙晓晨

编辑｜苗正卿

头图｜视觉中国

11月9日，OpenAI安全系统团队负责人Lilian Weng宣布将于当地时间11月15日离职，而3个月前，她刚刚上任OpenAI研究与安全副总裁。

 

 

Lilian Weng本科就读于北京大学，后在印第安纳大学伯明顿分校取得博士学位，是GPT-4项目的重要贡献者之一。

 

2023年，Lilian Weng创建并领导了OpenAI的安全系统团队，以期解决现有模型被恶意使用等AI安全问题。

 

2024年5月，OpenAI第三位安全主管Jan Leike离职。不久之后，Lilian Weng升任为OpenAI新一任安全主管。

 

如今，Lilian Weng选择离开。

 

“在GPT-4发布之后，我被要求接受一个新的挑战，重新考虑OpenAI安全系统的愿景，并将工作集中在一个拥有完整安全堆栈的团队之下。这是我做过的最困难、压力最大、最激动人心的事情之一。”Lilian Weng在社交平台X中分享道，“如今，安全系统团队拥有80多名杰出的科学家、工程师、经理、政策专家，我对我们团队取得的成就感到非常自豪。”

 

在离职声明中，Lilian Weng对团队取得的成果表示非常满意，尤其对o1-preview模型的最新成就赞不绝口，“它是我们迄今为止最安全的模型，在保持真实性的同时，表现出了对越狱攻击的卓越抵抗力。”

 

为什么要培养一个安全型AI？

 

Lilian Weng在B站“超级科学晚”活动中表示“AI安全是保障智能世界的关键”。随着AI的快速发展和广泛应用，恶意使用、有害信息输出、数据偏见、数据污染、对抗性攻击以及与人类价值不符等安全挑战也成为了AI发展不得不面对的问题，AI安全成为重要课题。

 

 

然而，OpenAI或已无暇顾及AI安全问题。

 

在此之前，OpenAI超级对齐团队的两名负责人Ilya Sutskever和Jan Leike便已离职。Jan Leike在个人推文中奉劝“OpenAI必须成为一家以安全为首位的AGI公司”。

 

“AGI Readiness”团队的高级顾问Miles Brundage也于近日离职，并在离职声明中指出专注于AI安全研究的“AGI Readiness”团队将被解散。他本人则希望从外部继续进行AI安全方面的工作。

 

包括Lilian Weng在内多位AI安全部门核心员工的离开，证明AI安全在OpenAI内部已被置于次要位置。

 

与AI安全相比，OpenAI不得不先考虑营收问题。

 

据CNBC证实，今年OpenAI预计收入约为37亿美元，而亏损约50亿美元。报道中称，该公司8月份实现了3亿美元的收入，自去年初以来增长了1700% ，并预计明年将实现116亿美元的销售额。

 

尽管前景广阔，但短期之内，资金压力会是OpenAI的主要问题之一。在考量之中，安全为利润让了路。

 

同时，离职潮也展露了OpenAI的内部问题。

 

OpenAI人员动荡中，Lilian Weng并非第一位离开OpenAI的华人高管。此前，曾任ChatGPT消费产品副总裁的Peter Deng便已离职。

 

2023年智谱研究发布的《ChatGPT团队背景研究报告》显示，ChatGPT 团队共有华人9人，占团队总人数10%，Lilian Weng便是其中之一。

 

尽管是OpenAI的资深员工，而且居功甚伟，Lilian Weng依然选择离开这里。

 

华人科学家出走，是OpenAI离职潮的缩影。

 

然而，离职风波中的OpenAI终于传来好消息。11月13日，OpenAI联合创始人兼总裁Greg Brockman宣布提前结束休假，回归公司。

 

 

据外媒报道，Greg Brockman回归，将专注于应对重大技术挑战。

 

如今，除Sam Altman、Wojciech Zaremba以及刚刚休假回归的Greg Brockman外，当年其余帮助创立OpenAI的元老均已不在团队之中。

 

大量早期员工的离开，说明在人工智能的发展航程中，不仅仅是技术问题有待解决，员工管理和理念冲突更是不得不谨慎处理的隐痛。

 

“现在，在OpenAI工作了7年了，我准备重新开始并探索一些新东西。OpenAI正以火箭般的增长趋势上，希望这里的每个人一切都顺利。”Lilian Weng未在推文中介绍离职原因，但作为公司目前职位最高的华人科学家之一，她的出走表明OpenAI人员动荡远未平息。

 

Greg Brockman回归是否能让OpenAI的高层动荡回稳，尚是未知数。