正确的提示信息

扫码打开虎嗅APP

从思考到创造
打开APP
搜索历史
删除
完成
全部删除
热搜词
2023-05-18 09:37
硅谷新王Sam Altman,站在聚光灯下

本文来自微信公众号:Founder Park(ID:Founder-Park),作者:Founder Park,原文标题:《硅谷新王Sam Altman:国会议员最尊重的CEO,正在重写科技世界的规则》,头图来自:视觉中国


只用了不到 6 个月,ChatGPT 就把 Sam Altman 送去了几乎所有科技领袖都得坐上半天的地方。


但是这一次,不同以往,议员们不够辛辣,他们友好,甚至有些尊重。据华邮报道,议员们对 Sam Altman 的态度比以往任何巨头 CEO 都要好得多。


同样与过去不同的是,这次议员们真的做了很多功课,学习了很多技术相关的知识。


可惜的是,他们再怎么准备,也追不上狂飙的 AI。他们和你我一样,还不能彻底理解 OpenAI 究竟创造了什么。


在这个逼仄的房间里,Sam Altman 是那个话事人,他不是在回答问题,而是在定义一切。他定义技术的能力、监管的边界,也定义整个科技世界的未来。


有人说这场监管问询是人工智能新篇章的开始。


他似乎已经想好第一章该怎么写了。


一、技术需要监管,但让我告诉你们该怎么监管



如前文,整场发布会并不是批评 OpenAI 和 Sam Altman 的 AI 技术给社会带来的混乱。


相反,议员们拒绝批评 OpenAI 的技术研发,而是就 ChatGPT 等生成式 AI 系统的潜在规则,征求 Sam Altman 和另外两名证人的意见。


议员有备而来


这次听证会的主席,参议员 Blumenthal 用一段录音开场。


“我们已经见过太多次了,技术越过监管,个人数据肆意开采,虚假信息的扩散,以及社会不平等的加剧,我们已经看到,算法加剧了歧视与偏见,缺乏透明度可能会破坏公众信任。这不是我们想要的未来。”


录音结束,Blumenthal 说:“如果你在家听会,你可能会觉得刚刚的声音是我的,话是我写的,但实际上,那不是我的声音。”


他用声音克隆软件复制了自己的音色,让 ChatGPT 以自己的口吻写了一段听证会开场白。


这一举动赢得了大量网友的认可,他们认为国会在积极准备,尝试理解技术本身。


几个比喻


当面对一个很难理解的事物时,人们习惯把它比作自己熟悉的事物。


在整场听证会中,议员和证人把大语言模型比作这样几个东西:


第一部手机、互联网的发明、工业革命、印刷机和原子弹。


“请监管我们”


Altman 告诉议员,他最担心的是 AI 最终会对“世界造成重大伤害”,并承认如果 AI 没有得到适当的监管,势必会产生不利影响。“如果这项技术出了问题,后果可能会非常严重。(If this technology goes wrong, it could be quite wrong.)


马斯克点评这句称:正确的(accurate)


为此,他认为政府的监管对于帮助确保技术负责任地推广,是非常关键的。


一名参议员听到奥特曼的回答,评论说:“很少有公司会在国会面前说‘请监管我们’”。


“但他没有提出放慢或者暂停推出 AI 产品。”华邮记者写道。


竞争少点对你们是好事


议员 Cory Booker 表示,他最大的担忧之一,是“企业高度集中”,“很少有公司能够控制和影响我们这么多人的生活,而且这些公司正在变得越来越强大,这真的很可怕”。


Altman 希望他放心,首先“只有较少的供应商能够制造大规模生成式 AI 这样的模型”,其次,“你真正需要关注的人越少,就越有好处。”他认为竞争是存在并且足够的。


我没说我们不做广告


Booker 议员同样问了 Altman OpenAI 是否会涉足广告业务。


Altman 表示存在这种可能性,“我不会说永远没有。”他认为存在潜在的客户只有广告这一个选项,但他个人非常喜欢订阅模式。


立法者担心,AI 系统采用广告模式,最终会重蹈社交网络和算法推荐的覆辙。


社交网络,这个与 OpenAI 关系不大的关键词,频繁地出现在整场听证会中。议员们在 Facebook 和 TikTok 之后,就像 PTSD 一样,疯狂地想要避免 social media 曾经给他们带来的麻烦。


于是 Altman 反复强调,AI 不是 social media,这么干不行。


新的数字殖民工具?


社交网络给国会带来的另一个麻烦,是对小语种支持的不足,导致美国科技公司被批评“数字殖民主义”。


议员提出了这个问题,担心 AI 是否支持足够多的语言。


Sam Altman 表示目前最新版的 ChatGPT“已经非常擅长使用大量语言,对于一些小语种,我们很高兴能和一些合作伙伴定制,将该语言纳入我们的模型”。


制定国际新标准


Altman 主张建立一个国际组织,为 AI 制定标准,他参考世界各国政府管制核武器的做法。


他认为美国应该发起建立一个类似国际原子能机构(IAEA)的组织,为 AI 行业制定全球规则。


“美国制定一些其他国家需要合作和参与的国际标准,有一些途径是切实可行的,尽管这在表面上看起来是一个不切实际的想法。”他说,“但我认为这对世界来说是件好事。”


新的 AI 法律


1996 年美国国会通过 230 条款,保护在线业务,不用承担用户发帖的责任,这某种程度上促进了社交媒体的兴起。


Altman 表示这一条款将不适用于人工智能。


他此前主张建立一套新的针对 AI 的法律。


三点计划


Altman 提出了一个成体系的有准备的方案:


1. 成立一个新的政府机构,负责 LLM 的授权,同时也有权撤销不符合标准公司的许可证;


2. 为 AI 模型建立一套安全标准,对其危险性进行评估;


3. 需要独立专家对模型的各个指标进行独立评估。


刻薄的同桌


虽然物理上和 Altman 是同一边的,但是纽约大学名誉教授 Gary Marcus 更像是国会的一员。


他的攻击性比议员们更强,提出了几个令 Altman 非常头疼的问题:


OpenAI 口口声声为了全人类,但实际上却和微软商业结盟;


GPT-4 的训练数据不透明,他不同意。


继续政治必修课


这场听证会结束后,Altman 还要马不停蹄地与国会 AI 核心小组作汇报,众议院院长也将主持这场会议。


美国国会听证会是 Sam Altman 系列行程的一部分,他正在进行为期一个月的国际访问,与各地政策制定者讨论技术和监管等问题。


据报道,Altman 多年前曾经考虑过竞选加州州长。与政治家们打交道并不是一件令他头疼的事。


为什么 Altman 如此渴望政府监管?


一位推特网友评论道:很简单。如果你制定了规则,你就控制了竞争。目的是让监管捕获,锁定后来者,成为新兴市场的唯一玩家。


二、定义者是谁?他在想什么?


技术乐观主义者


Altman 在八岁时就开始学习编程。


在他二十多岁的一次和朋友的徒步旅行时,Altman 放弃了人类是独一无二存在的信仰。


当谈论到 AI 的进步时,他承认,“绝对没有理由相信,在大约 13 年内,我们不会拥有能够复制我的大脑的硬件。确实有一些东西让人觉得能够区分自身与其他的存在,比如创造力、无处不在的灵感闪现、同时感到快乐和悲伤的能力。但计算机也将有自己的愿望和目标系统。当我意识到智能可以被模拟时,我就放弃了我们独特性的想法。


而且他坚信“所有真正可持续的经济增长来源于技术进步”。


末日论者


他在投身 AGI 之前,是一个彻头彻尾的末日论者。


“我为生存做准备。”他在 YC 的聚会上说,他指出有两种东西会毁灭人类,生物病毒和人工智能


身边的创业者们对他的发言感到不适,但他继续说:


“我尽量不去想太多,但是我有枪支、黄金、碘化钾、抗生素、电池、以色列国防军提供的防毒面具和一大片位于 Big Sur 的土地可以飞过去。”


神童的养父


因此在上一轮产业 AI 大热的时期,Altman 和马斯克等人一起创办了 OpenAI,希望让人工智能朝利好人类的方向发展。


他认为,真正的 AGI 应该做的不只是欺骗,它应该创造,发现理论,创作艺术。AGI 应该像儿童一样,花费数年学习所有的东西,OpenAI 的使命是照顾这个神童,直到它被世界所接受。


现在神童长大了。


在这之前,当无力负担神童的养护费用时,Altman 毫不犹豫地接过了微软的投资。“当他们发现需要更多资金来维持他们认为最有前途的道路时,他们毫不犹豫地选择了改变原则。


所以说他和马斯克是知己


Sam Altman 有着多重身份。


他曾是创业公司 Loopt 的创始人,这家公司在 2012 年出售给 Green Dot,作价 4340 万美元。


YC 创始人 Paul Graham 寻找继任者时,他看上了 Altman。担任 YC CEO 的时候,Altman 28岁。a16z 的创始人 Marc Andreessen 评价他在 YC 的工作:“在 Sam 的管理下,YC 的野心水平翻了 10 倍。”


2019 年,他创办了加密货币公司 World Coin。该公司计划使用眼球扫描技术创建一个全球识别系统,该系统可以用于创建一个安全的全球加密货币 Worldcoin。


2021 年,他参与了核聚变初创公司 Helion Energy 的融资,一人提供了 3.5 亿资金。能源是他一直关注的问题。“如果我们能推动智能成本和能源成本一路走低,我们所有人的生活质量都将得到难以想象的提高”。


上周,微软宣布与 Helion Energy 签署购电协议,将于 2028 年向其采购电力。


Altman 还计划在 YC Research 成立一个合成生物学部门,以延缓人类的衰老和死亡。“如果它有效,”Altman 说,“你仍然会死,但是等你 120 岁的时候还活蹦乱跳。”


他正考虑成立一个小组,为人类的继任者做准备,无论是 AI 还是强化的人类。这个想法是召集机器人学、控制论、量子计算、人工智能、合成生物学、基因组学和太空旅行的思想家和哲学家们,讨论替代人类的技术和伦理。


目前,这些领域的领导者们不定期在 Altman 家里开会。


聚光灯打向硅谷新王


OpenAI 惊天动地之前,Sam Altman 被称为“硅谷精英”,但现在,他所到之处,聚光灯跟随。


三月,硅谷银行(SVB)破产,Altman 拿出个人资金向发不出工资的创业公司贷款。


在最近一次播客采访中,Altman 说,“某种程度上,我们(OpenAI)正在做的事,和其他帮助 70 亿人的方式没什么不同。”


日前,Altman 发言称“远程办公是个错误”,“科技行业最大的错误之一是认为初创公司不需要员工在一起工作”。


这一观点被大量科技和经管媒体报道,轰动了疫情三年来早已普及远程办公的硅谷。


在整场听证会中,Sam Altman 像过去几十年所有硅谷叛逆的嬉皮士一样,给了议员们一点小小的极客震撼。


“你赚了很多钱吧?”议员问。


“我,不,我没有 OpenAI 的股权,我的薪水只够保险。”


“真的吗?有意思,那你需要一个律师。”


“我做这件事只是因为我热爱它。”


20 秒前还咄咄逼人的议员,哑口无言。


本文来自微信公众号:Founder Park(ID:Founder-Park),作者:Founder Park

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系 hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
打开虎嗅APP,查看全文
文集:
频道:

支持一下

赞赏

1人已赞赏

大 家 都 在 看

大 家 都 在 搜

好的内容,值得赞赏

您的赞赏金额会直接进入作者的虎嗅账号

    自定义
    支付: