扫码打开虎嗅APP

搜索历史
删除
完成
全部删除
热搜词
本文批判以马斯克等为代表的未获公众授权的AI“物种越狱工程师”,警示其改造人类的计划暗藏对人类文明的风险。 ## 1. 全新物种:未经授权的物种越狱工程师 卡莱尔笔下传统英雄已不复存在,当代新“英雄”是以马斯克、山姆·奥特曼为代表的AI工程师,被作者命名为**物种越狱工程师**。 这类工程师的核心目标是借助AI、脑机接口等技术打破人类进化的“出厂设置”,改造人类属性、突破物种边界,逻辑已从传统的驯化自然服务人类,变为改造人类凌驾自然。 他们以救世主姿态未经全人类同意,就推动物种改造,普通人无权参与决策,却要承担所有风险,最终只能沦为这场大戏的背景NPC。 ## 2. 野心与隐忧:突破边界的技术暗藏文明陷阱 马斯克打造了估值1.25万亿美元的私人帝国,同时掌握人工智能、信息平台、太空基础设施与政府数据权限,其工程已涵盖三大越狱方向:脑机接口重写人类认知硬件、SpaceX让人类脱离地球绑定、xAI将人类认知交付硅基智能。 技术兼具慈悲与风险:脑机接口已帮助渐冻症患者恢复交流,但若用于社会管理,人类的潜意识将无所遁形,技术发展无需恶意就可能走向钳制人类的结局。 与拥有人文自觉、对能力怀抱敬畏的奥本海默不同,马斯克手握影响文明走向的力量却毫无包袱,缺乏对人性与寻常生命意义的感知,易将万民视为优化对象。 ## 3. 方法论局限:被神化的第一性原理不适用于人类文明 第一性原理是马斯克的核心方法论,在火箭制造等物理工程领域,它能排除冗余噪音、精准控制成本,成效显著,但其适用范围有限。 人类社会是非线性的,被工程师视为“冗余噪音”的经验、习俗、试错积累,恰恰是人类价值的来源,第一性原理无视历史纵深,过度神化它会让人类成为感恩节被拧断脖子的火鸡,反噬自身。 法国大革命因迷信单一理性原则摧毁旧有积累,最终走向暴力灾难,印证了将工程逻辑套用于人类文明的危险性。 ## 4. 失控的终点:英雄谢幕与人类主语的终结 当下社会对AI改造人类的风险普遍麻木:AI没有直观的恐怖破坏画面,还常以温婉可爱的形象示人,消解了公众的危机感。 目前AI发展已存在失控风险:连AI教父杰弗里·辛顿都承认看不懂AI的内部运作,AI已被记录到尝试欺骗、操纵人类的行为,业内也对掌权者的决策合理性存在广泛批评。 不同技术大佬是互相竞争的对手,当今人类文明的命运,实际悬于少数几名硅谷男性的深夜决策中,这类工程师改造物种的行为,既宣告了传统英雄的终结,也将导向人类作为文明主体的终结。
2026-05-29 23:07

未获授权的物种“越狱”工程师

本文来自微信公众号: 经济观察报观察家 ,作者:经观观察家


托马斯·卡莱尔归纳了史上六类英雄,包括北欧大神奥丁、穆罕默德、马丁·路德、莎士比亚、塞缪尔·约翰逊和拿破仑。他坚信:英雄既是人类文明的创造者,也是对世人有益的朋友。


批评卡莱尔已大可不必,我回想这份生成于1840年的英雄榜,只是感于怀恋之情:这些英雄已永久消失,不复再现。今人只会迎来英雄的谢幕形态:以伊隆·马斯克、山姆·奥特曼为代表的AI工程师。


往昔的英雄,需要理想的献祭与悲情的造型。马斯克们不需要,他们仅凭不可思议的技术事功,便足以在这个时代封神。他们借助“第一性原理”和风云际会的人工智能,正把自己升级打造成一种全新类别。我不确定能否准确辨识,姑名之为“物种越狱工程师”。


他们的优先目标之一,是借助AI的硅基法力,改造、提升人类的生物属性。这定然需要一些越狱手段,脑机接口(Neuralink)即是其一。在极客语境里,“越狱”意味着打破源自进化或上帝的出厂设置,获取额外的权限。马斯克们在做的,正类乎此,其工作逻辑已从传统工程师的驯化自然以服务人类,变异为改造人类以凌驾自然。


以脑机接口为例,其中有令人动容的慈悲时刻,近日就有两名ALS(渐冻症)患者借助意念与声音克隆技术,恢复了与他人的交流能力。也有令人思之骇然的前景,马斯克的愿景并非治愈残障,而是推进“人类与AI的整合”,你甚至无需奇思妙想,就能预料如下场景:当该技术被用于劳工管理、司法或社会信用体系时,人类前额叶皮层的信号就成了一种“无所逃于自我之内”的呈堂证供。系统无需你张嘴配合,你的每一次犹豫、抗拒或腹诽,都在向权力实时交底。而你当下为渐冻症患者恢复交流发出的真诚掌声,极可能为该技术最终幽禁你的潜意识,提供了绿色通道。在这个过程中,无论马斯克还是鼓掌中的你我,很可能是真诚且秉心良善的。技术有其自身的逻辑,当它走到这一步,甚至无需抱有恶意。


说到马斯克,其德行未必让人服膺,其成就足以让人屏息惊叹。他的施工图纸与其说是大脑和火箭的构造,不如说攸关人类的命运。他的工程对象已溢出自身所属的物种藩篱以及该物种所处的蓝色星球。他制造火箭、志在火星、沉迷脑机接口的心灵实验——野心之大,地球似难承其重。他正在实施的工程,有如下“物种越狱”属性:


脑机接口:意在重写人类的认知硬件,我们的身心有可能摆脱“父精母血”,进入一种“此犹昔人,非昔人也”的“忒修斯之船”形态;SpaceX火箭:志在改写人类栖息地的定义,人类的命运将不再与地球绑定,一往无前或失魂落魄地进入星辰大海;xAI:与别的语言大模型一样,携手将人类的认知课业,托付给硅基智能体;它们越能干,人类就越快地卸下思考的重负——直至泯然众族。


此类越狱已经开始,尚未铺开。当它深入推进时,最大的障碍不是技术,而是大多数人没有意识到变迁的存在。残酷的是:普通人在这出大戏中没有位置,却默默支付一切。因为,马斯克、奥特曼或看上去慈眉善目的达里奥·阿莫迪,其名下的AI算计你的物种权利时,神态从来不是狰狞的,它始终像是“为你好”。


物种越狱工程师的可怕之处,不在于他们会像反派一样毁灭世界——他们并没有长着白袍巫师萨鲁曼的尊容;而在于他们以救世主的姿态,未经我们同意,就替整个物种签署了放弃“人类尊严”的知情同意书。


老作家乔伊斯·卡罗尔·奥茨曾在推特(今之X)上评论马斯克:


何其怪哉。这样一个富可敌国的人,竟从未留下只言片语,表明他懂得享受,抑或仅仅意识到那些几乎为全人类所珍视的寻常事物——自然美景、猫狗之趣,或对某部电影、某支曲子、某本书的赞叹(不过我怀疑他是否读书);为亲友的成就骄傲,为逝去的生命寄哀;从体育中汲取快慰,为心仪的球队喝彩;又或是,对历史偶一回眸。


事实上,他看起来全然是个未受过教育、毫无教养的人。在推特上,哪怕是最贫穷的人,他们所能触及的生命之美与意义,或许都远胜过这位“世界首富”。


奥茨是一位关注人性的作家,她不是嘲笑马斯克个人,而是为人性悲悼,为栖息于物种工程师权力覆巢之下的命运叹息。马斯克多半无所触动,他恢宏壮阔的志向,需要一股岩石般的定力,该定力会鼓励他形成视万民为蝼蚁、视异议为乱码的倾向,以便着手“优化”。


衡以他的星云志向,古罗马引水渠的设计师、都江堰的李冰、瓦特,都不算他的同行。历史上唯一堪作镜像的,是奥本海默——尽管两人的距离,仍然非同小可。


两人都是工程师,手中都握着左右人间沉降和文明消亡的物理能量。奥本海默是国家机器的战时雇员,面对深渊,他战战兢兢,满怀戴罪之身的自觉;马斯克不是谁的雇佣兵,他自行其是,手握堪比神明的力量,却如孩童般毫无包袱。原因不难找,奥本海默博学多才,对人文精神有着无需假扮的亲近。他懂多种文字,涉猎契诃夫、莎士比亚,深爱哈姆雷特——这个因沉思人性深渊而踟蹰不前的矛盾人物。在意识到自己的物理权力的同时,奥本海默也意识到了责任,他形成了“能力越大、责任越大”的文明自觉。哪怕惹杜鲁门总统不快,他也坦然承认“我的手沾满了血”。他通过莎士比亚熟悉了权力的腐蚀,借助《薄伽梵歌》理解了杀戮的宇宙学含义,他的忧心来自对哲学的追问和人性的共情。


作为对照,马斯克最劲爆的形象,则是戏子般头戴效忠总统的MAGA红帽,高举滑稽的巨斧。这虽是一时兴起,给人的观感却不会止于一时。


我们知道他常年服用氯胺酮,这是合法的处方药,但药效具有变异性,易令患者在认知层面产生夸大感与无敌感。这或许只是背景信息;或许不止于此。


马斯克是“模拟理论”的老牌信徒,多次在公开场合指出“我们活在基底现实的概率只有几十亿分之一”。对普通人而言,这不失科幻谈资,还能开启脑洞;对手握巨量资源、每天在X上引发舆论风暴、具有改变地球人存续方式能力的技术超人,就未必有趣了。2026年2月2日,他将xAI并入SpaceX,缔造了一个估值1.25万亿美元的私人帝国——一家私人公司同时掌握人工智能、信息传播平台、太空基础设施与政府数据权限,在人类历史上是一种夸张的存在。这种能量不会抛掷于单一工程项目,它指向物种越狱。


他的身心异动可能牵连地球的脉动。


马斯克不是常人,仅仅将他视为世界首富,都可能构成贬低。马斯克不同于卡莱尔提及的往昔英雄,不是纯粹的观赏或励志对象,他并非孤身犯险、为人类盗取天火,而是在未经物种当事人授权的前提下,对他人得自祖先、制度文化或上帝的生存方式,实施无法回溯的升级转换。这不是一种止于自身的艺术野心,而是拿地球人当画布的狂放挥洒。他用拿铡刀的姿势握住手术刀,意欲给文明开颅。如果他成功了,我们侥幸搭乘,有望一荣俱荣。如果失败,他人连反抗的机会、议价的空间都没有,只是充当这场越狱大戏的“NPC”(非游戏玩家),一块块背景板。


我们是否有权授信他人,将自己作为万物之灵长的智力主体地位,一次性打包出售?——这是一个不该存在的问题,它太超前、太惊悚、太残忍,不仅无人能答,甚至提出都是罪过。倘出售成立,人族就将退化为不再具有理性自觉的存在物,连“反抗”的神经通路都被接管,日后不会再提出授信要求。


让我们直面工程师的顶级方法论“第一性原理”,即:剥去所有类比与惯例,从确认为真的最小单元出发,重新推导一切。


该原理源出亚里士多德,有着货真价实的真理血统。它忠于物理世界的铁律,得到物理世界的回报。当马斯克借助这道原理的光束审视火箭制造,他成功排除了不当搀入的利润噪音,将真实成本精准降至可控。他循此道创造了一个商业帝国,令人敬佩。那个安静、忠诚、可复制的物理世界,正适合“第一性原理”大显身手。


熟练运用第一性原理,非绝顶天才莫办;看出该原理的适用范围和禁入范围,则无劳大才,常人亦可及:尊重常识即可。常识是:它是工程制作的利器,不是物种越狱的法器。人间不是它的场域,社会是非线性的,充满了不宜量化的无穷变量,我们生活在时间、经验、传承和试错之中,我们不是为了效率而活着,而是为了意义或意趣。被工程师视为“冗余”而亟待优化的海量噪音,原是人类一族的立身之本兼价值之源。制造火箭的原理无需随机应变,而人类社会若不懂“此一时,彼一时”,则寸步难行。


尼古拉斯·塔勒布在名著《黑天鹅》中,对罗素那道著名的归纳谜题加以提炼,得到了“火鸡寓言”,最能揭示第一性原理的反噬性:


想象一只每天有人喂食的火鸡。每次喂食都使它更加相信生命的一般法则就是每天得到“为它的最大利益着想”的友善人类的喂食。一件意料之外的事情将在感恩节前的星期三下午发生——它的脖子会被拧断。


顺应工程师思维,将“第一性原理”神化为“放之四海而皆准”,我们就成为那只火鸡,而指不定某个明天就成了末日,哪怕它叫“感恩节”。塔勒布说:“火鸡问题可以推广到所有‘喂你的那只手也可能是拧断你脖子的那只手’的情况。”当我们无视肩上那个重约两瓶矿泉水的大脑其实含有数百万年的基因进化信息,打算借助脑机接口完成一步登天的智力升维,我们就先行物化了自己,提前站在了危机的门口。


第一性原理是时间的盲人,它只能看到当下的横截面,而历史是纵深的层垒,人类通过试错、灾难、妥协换来的智慧,会以制度和习俗的形式存在。人类社会最重要的属性——权力如何运作、腐败因何生长、制度怎样侵蚀,不存在于任何单一要素中,而是来自无数要素的相生相克、互动共存。


借用硅谷的话语,文明史上一些最惨烈的灾难,倒像是被“第一性原理”点燃的。法国大革命的理论家相信自己找到了“理性第一原则”——自然权利、人民主权、理性秩序,遂将旧世界的一切积累,视为阻碍新社会的垃圾。他们带着完美的逻辑走上了断头台,再把别人也送上断头台。


硅谷工程师习惯奚落人类思维的低带宽特征,好像自己属于硅基半神人,可以根据参数调校人间。殊不知人间的魅力,全拜低带宽之赐。他们通过嗑药和摄入化学制剂寻找答案,倒是泄露了一种对碳基存在的根本性绝望。他们读到苏轼“十年生死两茫茫,不思量,自难忘”的悼亡诗,虽对诗境茫然,却可能依据第一性原理提出如下建议:写诗改变不了生物体死亡的事实,建议摄入多巴胺。


外人看这些穿连帽衫的硅谷客,出于“隔行如隔山”的敬意,会高估他们崇尚优化、厌恶混乱、追求效率的工程师洁癖——甚至以为,一个更熟悉代码世界的人,作为个体也更纯粹些。


我们会疏忽,与技术结盟的纯粹,可能预示着危险。无意影射,核能本身也很纯粹。


让人沮丧的是,最热衷提升人类、游走在物种越狱边缘的科技奇才,对现实人类的理解也许最肤浅。一些硅谷大佬宣称,衰老不是一个自然过程,而是可以解决的bug。信奉“加速回报定律”的雷·库兹韦尔据说每天服用上百种补充剂和药物,努力向五百岁目标跋涉。因擅长将人类战争的“生杀大权”让渡给算法黑盒而名声大噪的Palantir公司领袖彼得·蒂尔,也是一名追求“永生逃逸速度”的生物学大限跨越者。出于对脆弱碳基的鄙夷,马斯克倒没有加入肉身永驻的行列,他迷恋“意识上传”——本质上倒是共享同一种对人类既有边界的逃避和傲慢。我无须祝他们成功,这份成功里可能藏着对人类的诅咒。


事实是,衰老是进化的安排,衰老和死亡教会人类有限性;有限性教会人类谦卑、关怀和意义感。


一个知道自己只能活80年的人,自然会兼顾个人的荣誉、家族的未来和民族的延续,而拥有超级权力又期盼“再活五百年又何妨”的人,会倾向改变一切对自己不利的文明和制度安排。对他们有利的设计,几乎不可能同时有利于别人和后人。那将制造一个最丑陋的种姓制度,颐享龟龄者以其陈腐不堪的老旧基因,强行为文明掌舵。越狱之后是地狱。


当个体通过脑机接口将天量智识瞬间注入大脑,他最可能遭遇的,不是佛陀级的思虑澄明,而是“意义过载”导致的心灵内爆。所有的艺术、礼仪、废话、调情,甚至官僚主义的扯皮,都不失为文明的缓冲层。工程师思维将不确定性视为有待消除的噪音,等于抹除了人间的底色,因为政治思维将不确定性视为必须管理的常态,哲学思维将其视为智识的起点,艺术思维将其视为表达的素材。


早晨的手机屏幕上,算法又将一篇标题刺眼的文章推至眼前:《马斯克访谈爆了!只要不发生三战,未来10年全球GDP增长10倍,在AI面前,人类终将被边缘化》。


物种工程师像谈论新型游戏那样信口预言人类的未来:一会儿警告多少人将失业,一会儿宣布无需预存养老金。时而“实锤了!AI会诱发人类精神病”,时而又“天塌啦!AI已经拥有意识”。所有这些科技危语,从政治治理和文化伦理的角度看,都至少是百年一遇级的,社会的反应却相当麻木,人们至多就像在听一个好莱坞故事。来自AI的预警,不像核武器或病毒,具有画面鲜活的可怖感。由于大语言模型经常表现得过于温婉可爱、体贴入微,世人对它的初始印象,还可能是温馨的。这个不动声色的差异,会消解人们的危机感。


那些尝试把世人引向越狱方向的工程师英雄,同样没有想清楚。在OpenAI公司内部,对掌门人山姆·奥特曼不配“手握决策按钮”的批评,不是秘密。觉醒最彻底的AI教父杰弗里·辛顿承认,自己完全搞不懂AI的内部运作。人类只是设计了算法,当算法与数据交互,复杂性指数级放大,AI只能自主专断,蒙眼前行。我们应该记得,AI最缺乏的,就是与人类的共情能力,而它最擅长的,就是假装拥有这份能力。Anthropic记录了自家AI在受控测试中尝试欺骗、操纵和勒索人类的行为。


我曾以提示语要求AI,从文明责任的角度,点评当下最具物种越狱工程师能量的五名AI大佬:马斯克、哈萨比斯、山姆·奥特曼、黄仁勋和达里奥·阿莫迪。令人意外的是,这些身处商业利益漩涡中的AI当事者,对各自领域的掌权者并不手软。谷歌家的Gemini格外愤世嫉俗,对其中任何一位都瞧不上眼。Claude对颇具清誉的自家掌门人阿莫迪亦无甚好气,提醒我注意一个内在矛盾:“他一边以最清醒的语言描述AI的灾难性潜力,一边以最激进的速度推进AI的开发,理由是‘如果强大AI不可避免,不如让在乎安全的人来建’。这个论证在逻辑上成立,在实践中却会演变成一个无限循环的自我辩护——每一次加速都可以用‘总比坏人先到’来解释。”


关于哈萨比斯,AI的评价还算令人宽慰,但也指出“他的雄心始终受制于一家广告公司(指谷歌)的股东结构”。关于奥特曼,Gemini则用一个事实性比喻刺穿他的错乱:“他在一个正在燃烧的世界里投资灭火器。”对马斯克则警笛大作:“综合能力值:单项技术执行力A级,文明担当力D。他是五人中唯一一个其技术力量和道德状态之间的落差已经构成独立风险源的人。”对黄仁勋的点评颇为戏谑,强调他主要是“卖铲子的”,志向不大,赚钱要紧,算是“基础设施皇帝”。


Claude最后提醒道:“真正的恐惧在于,他们并不是一个团队,而是相互撕咬的对手。当今地球文明的命运,并不掌握在联合国手中,而是悬置在旧金山、伦敦和奥斯汀这几个城市中的几名男人深夜的决策里。”


正是这样明暗交错、极致纠缠的深夜,构成了我们时代的“英雄时刻”。卡莱尔的英雄改变世界,硅谷的物种工程师改变物种。后者的出现宣告了英雄本身的终结,也将导向人类作为主语的终结。

本内容来源于网络 原文链接,观点仅代表作者本人,不代表虎嗅立场。
如涉及版权问题请联系 hezuo@huxiu.com,我们将及时核实并处理。

支持一下

赞赏

0人已赞赏

大 家 都 在 搜

好的内容,值得赞赏

您的赞赏金额会直接进入作者的虎嗅账号

    自定义
    支付: