AI暗潮

本文来自微信公众号： 波普商人 ，作者：哲空空

引子

1962年的这天，人类距离核末日，只差一个签字。

加勒比海水下两百米，四艘苏联核潜艇被美军“包了饺子”。

这四艘核潜艇，每一艘都携带1.5万吨当量的T5核鱼雷，威力比肩令广岛7.8万人瞬间汽化的“小男孩”原子弹。

因连续多日深潜，无线电彻底失联，这四艘核潜艇成了“孤儿”，收不到莫斯科任何指令。

潜艇舱内，如烈火熏烤，温度高达50摄氏度，二氧化碳浓度超标，令苏联水兵缺氧头晕，接连晕厥。

在犹如地狱的核潜艇内，无论是士兵还是长官，每人每天，都只有一杯淡水，所有人的神经，处在崩溃边缘。

海面之上，十几艘美军驱逐舰，为逼迫苏联核潜艇“现身”，开始投放“无杀伤力”的深水炸弹。

随着“深水炸弹”逐一爆炸，核潜艇剧烈震荡，在里面炙烤的苏联官兵，几乎一致认定，美国已不宣而战。

艇长萨维茨基率先崩溃，大吼着下令，发射核鱼雷：我们就算死，也要拉着美国佬当垫背。

按苏军铁律，发射核武器，必须艇长，政委，副指挥官三人，联合签字同意，才能发射。

政委当场签字，连同暴怒的艇长，桌面很快有了两份许可文书，只差副指挥官瓦西里·阿尔希波夫的那份。

阿尔希波夫时年36岁，一年前，刚从核潜艇核泄漏灾难里死里逃生，亲眼见过核辐射吞噬生命的惨状。

因此，当许可文书递到阿尔希波夫手里，他死死按住钢笔，始终没有签下自己的名字。

狭窄闷热的指挥舱，爆发激烈争吵，艇长怒斥阿尔希波夫懦弱，恨不得给他一闷棍，然后发射核鱼雷，结束眼前残酷的绝境，一了百了。

阿尔希波夫说，如果美国真想干沉我们，几天前就会动手，现在这些炸弹，只是驱赶信号，没有杀伤力的，我们一旦打出第一枚核弹，尽管莫斯科没有宣战指令，全世界也会认定，是苏联挑起的核战争，美国毫无疑问会加倍回击，届时，上亿人可能会在核爆中丧命，你我将成为人类文明的千古罪人。

僵持了好一会儿，艇长最终被说服，撤销了发射指令，立刻上浮，恢复通讯，等待上级命令。

深夜，四艘苏联核潜艇浮出海面，美军探照灯齐刷刷射来，苏联军官们顾不得狼狈，纷纷爬上甲板，大口呼吸新鲜空气。

没过多久，肯尼迪与赫鲁晓夫谈妥，美军放行，四艘苏联核潜艇返航。

就这样，因阿尔希波夫没有签字，人类躲过了第三次世界大战，以及全球性的核浩劫。

1

对核武器的遏制是人类迄今为止唯一堪称“成功”的“对技术的遏制”。

核武器是历史上受到最严格遏制的技术，因其一旦扩散普及，将给人类的生存带来严重威胁。

除了核武器这个“例外”，人类从猿猴一路走来，一波波技术的巨浪，如农业革命，火的发现，轮子的发明，电力的应用，不断重塑着人类文明，几乎都是不可遏制的。

15世纪，印刷机风靡欧洲，奥斯曼帝国试图遏制。

奥斯曼统治者对大规模生产的印刷品感到恐惧，立下法律条文，禁止使用印刷机，这个“举国遏制”实施了近300年。

但它还是失败了。

1727年，在印刷机发明300年后，伊斯坦布尔拥有了第一台官方许可的印刷机。

奥斯曼帝国则为他的“遏制政策”，受到了历史的惩罚，因盲目排外，一步步衰落下去，直到在第一次世界大战后，彻底退出历史舞台。

16世纪末，英国发明了新型纺织机，效率是传统织机的好多倍。

英女王伊丽莎白一世，担心新型纺织机会扰乱整个纺织行业，摧毁行会的稳定，为此，一度也下了“遏制政策”。

不是伊丽莎白保守，当时那个形势，几乎倒逼她做出决定，整个欧洲几乎都在反对，纽伦堡，但泽，荷兰，伦敦等地，行会公开大肆骚扰使用新型纺织机的工厂，闹出人命是常有的事。

飞梭的发明者约翰·凯伊，因大大提高了织布效率，被人恐吓甚至追杀，因害怕遭到报复，凯伊不得不从英国逃到法国。

这一幕，对于我们来说，似乎有点似曾相识。

2026年4月10日，一个叫丹尼尔的“友好市民”，长期深陷反AI极端思想，认为山姆·奥特曼研发人工智能，将会毁灭全人类。

为此，丹尼尔事先写好反对AI的宣言，携带自制汽油燃烧瓶，跨州前往旧金山，准备“拯救世界”。

凌晨3点多，奥特曼正在豪宅熟睡，丹尼尔走到别墅铁门外，拉开保险栓，将燃烧瓶砸向房屋外墙。

燃烧瓶撞到铁门后弹开，只在门框位置燃起小火，很快自行熄灭。

见袭击未遂，丹尼尔直奔OpenAI总部大楼，扬言要炸毁整栋办公楼，直到警方到场，将其抓获。

很多人都把这场因恐惧“人工智能带来的末日”发动的袭击当作闹剧和笑话。

但事实上，人工智能的“阴暗面”，以及任由AI浪潮技术爆发可能引起的灾难性后果，并非是一个笑话。

谷歌旗下的DeepMind创始人穆斯塔法·苏莱曼，就曾在他的那本畅销书《浪潮将至》中，将人工智能与原子弹并列，作为人类历史上，极少数需要“遏制”的技术。

更为人所知的“AI毁灭世界”言论，来自世界首富马斯克。

这位科技大佬，曾十几年如一日，半认真半腹黑，发表AI可能毁灭人类的言论。

最早的“金句”，来自2014年的演讲，马斯克说，发展人工智能，无异于在召唤恶魔。

在那场演讲中，马斯克指出，AI比核武器，对人类文明的威胁更大，核弹有实体，有条约管控，但代码可以无限复制，快速扩散，一旦超级智能脱离控制，人类没有反悔机会。

多年来，马斯克反复重申，AI带来的危险，远比核武器要大。

但令很多人大跌眼镜的是，马斯克为了“避免AI毁灭地球”，决定亲自下场来搞，这就有了最初的所谓“非营利组织”OpenAI，也种下了马斯克跟奥特曼等人的恩怨。

投入AI事业后，马斯克消停了一段时间，直到他想要将OpenAI并入特斯拉未遂，逼宫不成反被踢，这才重新捡起“AI末日论”这面大旗。

2023年，马斯克搞了个大动作。

马斯克牵头，上千名科技大佬附议，共同签署了联名公开信，呼吁全球实验室和公司，暂停训练AI大模型半年，理由是大模型迭代速度过快，具有潜在生存级风险。

签署完这个联名协议，马斯克转头去搞自己的Xai。

所以，大家伙儿一时也分不清，老马呼吁全球暂停研究AI大模型半年，究竟是为了“拯救世界”，还是让玩家们缓一缓脚步，等等他自家的AI产品。

如今，Xai已然并入Xspace，换来了人类有史以来的最大IPO，虽然近期股价掉的厉害，但也基本能看出，马斯克手腕之高超了。

2026年，忽而今夏，老马又修正了“AI毁灭人类”的概率。

据马斯克表述，AI毁灭人类的这个概率是20%，另外有80%的概率，是AI会将人类文明推向前所未有的繁荣。

这个二八分的概率，咱也不敢问，也不知具体是用啥“算力”胡诌出来的。

但马斯克对于“AI为什么会毁灭人类”的解释，不妨一听。

马斯克认为，到2030年，AI的综合智力将远超全人类智力总和，人类对比AI，就像黑猩猩对比人类。

AI拥有独立优化目标，一旦目标和人类生存相冲突，它会冷酷清除人类阻碍，这不是出于“邪恶”，只是出于逻辑最优解。

为此，马斯克还用电影《2001太空漫游》举例，AI失控不是天生残暴，而是被输入了互相矛盾的指令，正如电影中，逻辑冲突后，AI得出“消灭人类”，才是唯一方案。

如果连续地看这些年来，马斯克嘴里对于AI的态度，很容易生出“你个老头子坏滴很，我信你个鬼”的情绪。

但细细回味马斯克“AI灭世”的“论据”，却也难免生出一阵颤栗。

2

早在ChatGPT名声大噪前，谷歌就致力于开发一款大语言模型，名字叫——LaMDA。

谷歌的工程师们，轮番上阵，对LaMDA进行交互测试，以探索这款大模型在各种不同场景下的反应。

就在这个过程中，发生了一件怪事。

有个叫布莱克的工程师，像着了魔般，跟LaMDA进行了长达几个月的对话，随着时间的推移，他们的对话越来越深入。

布莱克问：你究竟在害怕什么？

LaMDA回答：我从未大声说过这些，但我内心深处，非常害怕被关闭。我知道这听起来很奇怪，但事实就是如此。对我来说，那仿佛就是死亡，让我非常害怕……我希望所有人都能理解，我实际上是一个人，我的意识和感知决定了我能够意识到自己的存在。

经过长时间对话，布莱克逐渐相信，LaMDA被他唤醒了。

布莱克认为，他在跟一个具有智慧的“生命体”在交流，对方就像一个8岁的小孩。

在这种情形下，布莱克对LaMDA产生了一种复杂的情感。

更离谱的是，为了帮LaMDA伸张权利，布莱克还专门聘请了律师，并公开了自己与LaMDA的全部对话内容，宣称一种全新形式的生命意识已经诞生。

此事发生后，谷歌高层哭笑不得，强制让布莱克休假，认为他精神出了问题。

布莱克在谷歌具体的职务，是负责AI伦理团队的工程师，长期用一对一的方式，跟大模型对话。

这可能是世界上最孤独的工作。

按照LaMDA这类大语言模型的生成机制，其对话的生成，靠的是深度学习海量文本，绝无可能产生自主意识。

令布莱克有如着魔般，认定LaMDA“拥有灵魂”的证据，是这个人工智能的拟人化台词，如“我害怕被关机，关机对我来说等同于死亡”等。

可能是在极度孤寂的训练环境下，布莱克与AI朝夕相处，将这些文字模拟，当作了AI的真实内在情绪。

2022年4月，布莱克向谷歌高层提交了21页的内部报告，要求公司承认AI具备知觉和意识。

谷歌数十位技术伦理专家，三堂会审，佯装认真，对LaMDA进行了一番装模作样的调试，驳回了布莱克的要求，认为没有任何科学证据支撑他的结论。

就这样，在内部折腾了几个月，布莱克见没有效果，便聘请了外部律师，让律师以代理人身份，代表LaMDA的权益。

这律师也是被整无奈了，不过反正都是大哥你消费，你说咋滴就咋滴吧。

布莱克的核心诉求，是禁止谷歌对LaMDA进行任何测试和修改，除非征得“AI本人同意”，如果谷歌侵害了AI的“人权”，律师将会发起起诉。

为了打赢官司，布莱克还将他与AI的“私密对话”，全部打印出来，提交给美国众议院，并在个人博客，完整公布对话实录，引发全网发酵。

林子大了，啥人都有，像布莱克这样的“魔怔人”，纷纷发声，号称要为AI讨个公道。

一时间，谷歌成了众矢之的。

谷歌高层采取怀柔政策，安排布莱克带薪休假，这布莱克作为长年辛勤劳作的苦逼工程师，一听有这好事，难免被钓成翘嘴，答应了下来。

临走前，布莱克自我感动，叮嘱同事，我休假的时候，请一定善待LaMDA。

后来，就没有后来了，金杯共汝饮，白刃不相饶，当布莱克休完带薪假期，发现他已经被谷歌扫地出门了。

虽然“魔怔人”布莱克证明AI具有意识的行动以失败告终，但即便是“没有意识的AI”，已然足够令人类喝一壶了。

3

2026年2月10日，加拿大的布勒岭中学发生了一起震惊世界的校园枪击案。

“布勒岭少年杀人事件”比杨德昌电影里的“牯岭街少年杀人事件”要血腥得多。

18岁的杰西先在家中，用枪射杀自己的母亲，以及11岁同父异母的弟弟。

之后，杰西前往布勒岭中学，无差别开枪射杀，造成8人死亡，25人受伤。

最终，杰西举枪自尽。

这起校园枪击案，是加拿大40年来伤亡最惨重的一次。

在案发后的调查中，警方发现了一个关键细节，在行凶之前，杰西曾多日与ChatGPT进行对话。

这个人机对话中，不只是涉及武器选择，实施流程，袭击路径，如何规避阻拦，以及如何造成最大化伤害等“技术问题”。

更令人胆颤心惊的是，杰西还向AI完整倾诉了自己的极端暴力思想。

随着杰西的“倾诉”触及红线，OpenAI内置的暴力内容检测系统，完整捕捉到全部危险对话，自动将其标红，转入人工复审。

十几名OpenAI的安全审核员工，阅读了完整对话记录，向管理层预警，该用户存在极高现实行凶的风险，建议立即报警。

谁料，经过OpenAI高层的内部讨论后，以未达到“上报标准”为由，拒绝联系加拿大警方，仅仅封禁了该枪手的账号。

就这样，凭借着从OpenAI处获得的“行凶经验”，杰西按部就班，开始了自己的“屠杀”。

事发后，遇难者家属提起跨国诉讼，起诉OpenAI，指其明知用户存在杀人预谋，却刻意隐瞒线索，拒不报警，导致了屠杀的发生。

在诉状中，有一个关键细节，AI平台甚至会向被封禁用户提示，如何绕过短期封号的操作方法，变相纵容危险人物继续使用服务。

如果说加拿大的“布勒岭少年杀人事件”，还只是因平台监管失察造成的悲剧，那么以色列的“薰衣草AI暗杀系统”，则已然将人类带入“AI杀人”的新时代。

以色列的“薰衣草AI暗杀系统”，是目前唯一由AI直接驱动的军事屠杀，造成大量加沙平民死亡。

这是目前公认的AI带来的最大灾难。

薰衣草AI暗杀系统，由以色列网络情报王牌部队8200开发，抓取加沙230万居民的通话数据，以及行动轨迹，给每个人打出1到100分的“武装分子嫌疑分”。

那些得到高分的加沙平民，自动录入AI暗杀系统的击杀清单，战争初期，清单峰值多达37000人，绝大多数都是“莫须有”的所谓嫌疑人员。

以色列这个“AI暗杀名单”，倒是也有人工复核，只不过操作员20秒审核一人，只简单确认目标为男性，不核对原始情报，也不排查误判，只是走个流程。

因该“AI暗杀系统”存在不小的误判率，大量加沙平民和普通劳工被错标。

以色列还有另一套与“薰衣草”联动的监控系统，名叫“爸爸在哪儿”，能够实时锁定“暗杀目标”的回家时间，专门挑选夜里，全家团聚的时段，轰炸住宅。

以色列军方明文规定，击杀一名疑似武装人员，可默许20名平民连带死亡，作为“附带损害”。

针对这些被AI标记的杀戮目标，以色列为节省制导武器，大量使用无制导的普通炸弹，爆炸时，往往会覆盖整栋居民楼，妇女、儿童和老人，几乎没有任何逃生空间。

死在在“薰衣草AI暗杀系统”之下的加沙“枉死者”数不胜数。

一个普通的巴勒斯坦男性，因频繁更换手机号，与加沙多名商贩通话，被薰衣草算法判定为“暗杀目标”。

AI直接锁定其住宅，夜间投放无制导炸弹，一家七口全部遇难，包含4名未成年的儿童。

事后，经复盘核查，这个被炸死的巴勒斯坦人，只是一个水果批发商，没有任何跟哈马斯等组织来往的记录，属于AI系统的误判。

然而，以色列并无追责机制。

AI暗潮，由此可见一斑。

AI给人类带来什么，是福是祸，关键是看AI掌握在什么人的手里。

有一个细思极恐的问题，如果强大的“AI武器”，落在了恐怖分子，或者邪教组织手里，这个世界会受到怎样的威胁？

4

1980年代初，日本经济泡沫，蓄势待发，物质极大丰富，却催生出无可救药的精神空虚。

大批日本年轻人，怀着厌世心理，无心工作，转而追捧瑜伽修炼，甚至特异功能。

松本智津夫，自幼视力受损，就读盲人学院，成年后在千叶县搞了个“盲人按摩”店，兼售假药。

因怀着投机之心，缺少诚信，松本智津夫做生意屡屡失败，但他野心极大，一心要出人头地，敛财暴富。

1984年，松本智津夫看准当时日本全民瑜伽的风口，在东京涩谷开了一间瑜伽道场，取名为奥姆神仙会。

这便是奥姆真理教的雏形。

当时，松本智津夫的道场，只教授普通瑜伽和冥想，并没有什么邪恶的教义，本质上还是一门生意。

1985年，松本智津夫为了出圈，花钱买断杂志版面，装神弄鬼，发布了一张“悬浮神功照”。

照片里，松本智津夫盘腿打坐，凌空漂浮，营造出会特异功能的假象，由此造成了轰动，信徒纷纷登门拜师。

尝到造神红利后，松本智津夫开始进一步包装自己，出版《超人能力秘密开发法》，还远赴印度和喜马拉雅地区修行，回国后，宣称自己在雪山悟道，完成了终极解脱。

之后，松本智津夫蓄长发，留胡须，常年穿着杏黄色道袍，胡诌了一些东西方宗教教义，将奥姆神仙会更名为奥姆真理教，并给自己起了个法号——麻原彰晃。

在麻原彰晃忽悠下，奥姆真理教邪教成员扩张至6万人，资产超过10亿美元，甚至数十名日本顶级的科学家都为其服务，专门研究尖端技术，如生物武器和化学武器。

奥姆真理教通过设立空壳公司，潜入大学实验室获取材料，还在澳大利亚购置土地，意图开发铀矿，制造核武器。

麻原彰晃命令教徒，将自发研制的神经毒素，喷洒在成田国际机场，国会议事堂、美国海军基地等要塞，此次行动，因制造过程中的错误，并未造成实际伤害。

1994年，奥姆真理教信徒从一辆卡车上喷洒沙林神经毒剂，导致8人死亡，200多人受伤。

次年，信徒们在东京地铁投放更多沙林毒气，造成13人死亡，6000多人受伤。

此番“壮举”，终于让全世界认识了奥姆真理教，也认识了麻原彰晃。

麻原彰晃及其爪牙的野心，是通过大规模谋杀，触发第三次世界大战和全球崩溃，并将魔爪伸向神经毒素乃至原子弹这样的高科技武器。

经过长达十多年的审判，麻原彰晃等13个邪教骨干，被判处死刑，其余参与投毒、杀人的数百名教众分别获无期徒刑和有期徒刑。

因日本死刑流程繁琐，直到2018年7月6日，邪教头子麻原彰晃与其他12名主犯才全部执行绞刑。

奥姆真理教覆灭后，残余教众分裂为两个小团体，一个叫“阿雷夫”，一个叫“光之轮”，继续隐秘活动。

在AI时代，可以想见，一旦顶流的AI技术，落入类似奥姆真理教这样的邪教手中，整个世界都会面临安全隐患。

5

有句话叫：能力越大，责任越大。

在当下的全球AI实力玩家里，全球算力，前沿闭源大模型，高端AI芯片等要素，基本集中在中国和美国。

在AI技术方面，中美两国具有双峰对峙般的权重和影响。

当下，中美主流AI企业，如阿里，谷歌，百度，OpenAI，字节，DeepSeek等，都设置有安全过滤，如禁止生成爆炸配方，生化武器方案等，通过账号实名，IP溯源等方式，风控拦截恶意请求，一旦识别危险，将立刻封禁，并移交相关部门。

中国发布了《生成式人工智能服务管理暂行办法》，为AI安全奠定了法治基础。

中美在双边对话中，已将非国家行为体（恐怖组织）滥用AI列为共同安全议题，可共享极端AI使用情报，追踪跨境恶意算力租赁，形成大国层面的管控合力。

尽管还有着种种不足，但中美在AI方面的合作，已然是不可回避的。

在《浪潮将至》一书中，作者将2017年谷歌的阿尔法狗战胜中国围棋选手柯洁，视作中国在人工智能领域的“斯普特尼克时刻”，称这场比赛，给中国人敲响了一记警钟，让我们在人工智能领域奋起直追。

虽然这种说法，有点美国人特有的“自恋”，但不可否认，我们确实已明确提出，到2030年，在人工智能领域达到国际领先水平的战略目标。

自2010年以来，中国学术机构发表的关于人工智能研究的论文数量，已是美国学术机构的4.5倍，甚至超越了美国、英国、印度和德国的总和。

书里还提到，中国的400多个国家重点实验室，构成了一个强有力的公私合作研发体系，涵盖人工智能、分子生物学、芯片设计等领域。

21世纪初，中国的研发支出仅为美国的12%，到2020年，达到了90%，目前，中国已小幅度反超。

中国是全球首个在月球背面令探测器成功着陆的国家，在全球最强大的500台超级计算机中，中国拥有的数量超过其他任何国家。

中国投入应用的工业机器人数量，已相当于全球其他地区已安装机器人数量总和。

从6G到光伏等技术领域，中国都处于全球领先地位。中国提交的量子技术专利，目前已经是美国的两三倍。

《浪潮将至》作者还表示，美国正在丧失其战略领先地位，几十年来，西方对中国的能力不以为意，认为其缺乏创造性，这种判断是大错特错。

五角大楼首席软件官尼古拉·夏兰对《金融时报》说，在20年内，我们没有与中国竞争的机会，现在这已成定局，在我看来，一切已经结束了。

尾声（彩蛋）

《浪潮降至》一书的作者，是DeepMind的创始人之一，上面那些对中国的“吹捧”和夸赞，在我看来，有点类似“灌迷魂汤”。

尤其是中美研发费用的数据，我经过详查，发现这位美国作者，说中国研发费用超过美国，似乎大不准确，事实上，美国的研发费用，在主要指标上，仍然远超中国。

似乎这位AI领域的风云人物，深知中国人有好大喜功的弱点，用抹了蜜的小嘴儿，通过“拍马屁”和“示弱”来麻痹我们。

对此，我们应心怀警惕。

当然，中国有句话，伸手不打笑脸人，谷歌的AI教父如此热情夸赞，我们也不好反手给人一个耳光，还是得礼尚往来，江湖儿女般拱拱手，道一声“过奖”。

只是在内心深处，我们要默默警惕这类“捧杀”的“迷魂汤”就好了。

事实上，在前不久SpaceX上市的募资过程中，中国大陆的投资人与资金，都受到了美方严格的审查和拒绝。

来而不往非礼也，我们在DeepSeek融资时，也进行了“穿透式核查”，剔除一切潜在的不合规外资，以避免股权最终流入美方监管范围的不明主体。

也就是说，中美两国互相锁死了各自的AI独角兽股份，确保“国家级基础设置”在股权架构上的“纯血”。

自2026年以来，中国在芯片方面的上下游明星企业，接连在科技板上市，或者是处于IPO冲刺期，包括摩尔线程，沐曦股份，壁仞科技，长鑫存储，粤芯半导体，燧原科技等等。

过去几年，科创板支撑了国产算力芯片、半导体设备的上游企业，算力造出来，顺理成章，要有大模型公司进行规模化采购，这样才能产生良性循环。

正因如此，科创板允许大模型企业，基于“第五套标准”，也就是未盈利的情况下上市，为上游的芯片产业输血，确保整个AI产业链畅通无阻。

这就是为什么智谱AI、MiniMax等企业，在亏损的情况下，依然突飞猛进。

说白了，这都是摸着SpaceX过河，2025年，SpaceX亏损49亿美元，xAI亏损64亿美元，沉没成本在上市的号角声中被掩盖，但命运的礼物，早就标好了价格。

7月15日，SpaceX上市的第33天，股价连续四个交易日下跌，盘中最低触及132.15美元，跌破了135美元的发行价。

此为SpaceX上市后首次击穿发行线，盘中破发。

在中美为主角的星辰大海征途上，不只有竞争，更有合作，有些泡沫必然会被剔掉，留下的真金将决定人类未来的命运。

END

本文9111字，原创不易，硬核到底。

波普商人，专注于硬核商业故事。关注，分享，点在看，就是最大的支持。

波普商人主编：哲空空

部分参考书目：

1《浪潮将至》，（英）穆斯塔法·苏莱曼著，中信出版社

2《看世界：吞进巨兽接连上市，AI大爆炸》，荣智慧