Anthropic CEO：AI 是给人类的成人礼

本文来自微信公众号： 投资实习所 ，作者：StartupBoy

今天再次读了一下Anthropic CEO Dario Amodei在1月份写的《技术的青春期》（The Adolescence of Technology）一文。这篇文章读完给我的第一感觉是，他不再只是在谈论冷冰冰的算法，而是在写一份有点类似“生存备忘录”的东西。

他用这篇长文把我们从对AI虚幻的恐惧或盲目的乐观中拽了出来，直面那个即将到来的、甚至可能有点窒息的转折点。也用它和另一篇文章《Machines of Loving Grace》，来反驳外界对他是AI“毁灭论者”的误解，因为他一直在强调AI的风险。

我们正处在一种“致命的悸动”中

Dario在开头引用了卡尔·萨根《接触未来》（Contact）里的一个场景：如果我们能问外星文明一个问题，那应该是“你们是怎么做到的？你们是怎么度过技术青春期而没有毁灭自己的？”

我理解的是，他把人类现在的处境生动地类比成了青春期——我们突然发现自己手里握着几乎无法想象的力量（AI），但我们的社会、政治和心智系统，似乎还没成熟到能驾驭这种力量。这种感觉很奇妙，就像一个刚拿驾照的少年突然被塞进了一辆时速400公里的赛车驾驶室。

更有意思的是，他提到2023-2024年大家对AI风险的讨论已经有点“宗教化”或“末日论”了，这反而让一些严肃的建议被埋没。而现在（2025-2026年，他在文章中设定了这个近未来的视角），风向又转到了只谈机遇、不谈风险的另一个极端。这种像钟摆一样的反复其实挺危险的，因为技术演进并不在乎舆论的流行。

想象一个“塞在数据中心的天才国家”

为了让人明白什么是“强大AI”（Powerful AI），Dario提出了一个非常有意思的比喻。他让我们别把AI仅仅当成一个对话框，而是想象在2027年左右，世界上突然出现了一个拥有5000万人口的虚拟国家。

在这个“国家”里：

• 每个人都比诺贝尔奖得主、顶尖程序员或政治家还要聪明。

  
  

• 他们干活的速度是人类的10到100倍。

  
  

• 他们能独立完成需要数周时间的大型任务，而不只是被动回答问题。

  
  

• 如果需要，这几千万个天才可以像军队一样协同工作。

  
  

看到这里有点科幻的感觉，但也很震撼。这本质上就是一种“降维打击”。正如他所说，如果有情报官员告诉国家元首，在数据中心里诞生了一个由超级天才组成的国家，且这个国家每过一个小时可能就完成了人类一年的科研量，任何一个清醒的领导人都得把它视为有史以来最大的国家安全挑战。

AI进化的“时钟效应”

关于AI到底什么时候能达到这个水平，Dario提到了一个观察：反馈回路已经闭合了。

Because AI is now writing much of the code at Anthropic,it is already substantially accelerating the rate of our progress in building the next generation of AI systems.（因为AI现在已经承担了Anthropic大部分的编程工作，它目前正极大地加速我们构建下一代AI系统的进程。）

这句话有种印证了那种“奇点”临近的体感——我们不再是单纯用手码砖头造大厦，那是原来的线性增长；现在的状态是，我们造出的机器正在帮我们设计更强的机器（这和Notion CEO之前的文章《Notion CEO最新好文：蒸汽、钢铁与无限心智》里提到的观点类似）。

Dario说，虽然外界总有人觉得AI到了瓶颈，或者快撞墙了，但在实验室内部看来，AI的认知能力提升其实是“平滑且不可阻挡”的。

这种风险不是科幻，而是现实主义的战斗

他把接下来我们要面对的“成人礼”考验分成了几个具体的维度。与其说是担心机器人造反（像那种俗套的科幻电影），不如说他更担心的是以下几点：

1. 自主权风险

   
   

   ：如果这个“天才国家”有了和人类不一致的目标，会发生什么？

   
   

2. 毁灭性的滥用

   
   

   ：如果这些天才成了恐怖分子的“雇佣兵”，制造生化武器或发起瘫痪级别的网攻，我们防得住吗？

   
   

3. 权力的极端集中

   
   

   ：如果某个独裁者掌握了这支天才大军，现有的全球权力平衡会瞬间崩塌。

   
   

4. 经济大震荡

   
   

   ：即便AI特别听话、特别和平，数千万个顶尖天才突然进入劳动力市场，社会系统能接得住这种结构性的失业和财富分配不均吗？

   
   

Dario说如果通不过考验（停留在青春期），人类可能会因为生物武器滥用、技术失控（自主风险）或地缘政治极权而走向文明的毁灭。

如果通过了考验（迈向成年），人类就能用极度的理性和高超的技术控制，将AI应用于攻克癌症、消除贫困、解决能源危机。度过成人礼的奖励，是一个真正走向“成年”的成熟人类文明。

这里我能感觉到Dario很努力地在保持一种“外科手术式”的严谨，他反对那种极端的、全面禁绝的回应，认为那只会引发反弹。他提倡的是一种非常务实的态度：我们先承认不确定性，然后开始为每一种具体的威胁制定“战斗计划”。

都说人们总是高估一项科技所带来的短期效益，却又低估它的长期影响。读完这篇长文，我最大的感触是，虽然这看起来有点夸张，但我们可能真的只有几年时间去完成这场“社会性的成年礼”。那种把AI当成好玩工具的心态可能要收一收了。

如果“一个天才国家”即将降临，我们所引以为傲的纯认知类工作，在那种上百倍的效率差面前，生存空间到底在哪？