从OpenAI的《外星思维》说起：AI越来越强，我们为什么还要亲自学习？

本文来自微信公众号： 快刀青衣 ，作者：快刀广播站

AI能替我们干，但判断仍要长在自己身上。

在AI领域，半年前的事，现在想起来就像过去了一个世纪。三年前呢？那差不多就是白垩纪了。

第一次被AI震撼到的感觉，估计很多人都还记得。我那次就是只说了一句话，AI直接给我生成了一张海报。放以前，这种活儿得找专业设计师。

而2023年的一天晚上，OpenAI的两位研究者也遇到了这样的震惊时刻。他们待在办公室里，讨论刚看到的推理模型研究结果。

模型开始能自己形成一连串推理，也就是我们后来熟悉的思维链。他俩开始相信，有生之年，真的可能遇到明显比自己还聪明的机器。

其中一位，就是OpenAI现在的首席科学家，叫雅库布·帕乔茨基。前几天，他在OpenAI官网发表了一篇长文，叫《外星思维》，开头就回忆了那个晚上的震撼瞬间。

先说一下，虽然这篇文章发表在OpenAI官网，但里面没太多给自家做宣传的东西，不是咱们传统意义上的「企业软文」。这可能也是他们内部分享研究和想法的一种方式。

两家顶尖的AI公司，OpenAI和Anthropic，很多研究和想法根本不会写成学术论文，可能一篇简单的博客文章就直接发出来了。

毕竟按传统学术流程发一篇论文，时间实在太长了，对于这些AI科学家来说，有句话说得好，「将军赶路，不追小兔」。

又到周末，今天我想借这篇文章，聊一个很多人都在问的问题：AI写得比我好，懂得比我多，做事还比我快，那我为什么还要花那么多时间学习？

网上也有个经常说的梗，AI时代，只要我学得足够慢，就不用学了。

这个问题挺刺眼，但也非常真实。学一门东西要花几个月，打开AI，几秒钟就有答案，谁都会算这笔账。

说回帕乔茨基这篇文章。他其实主要谈的是AI安全，讲的是怎么让人继续掌握未来，并不是专门在谈学习。

学习这件事，是我顺着他的话往下想的，因为我一直在关注的就是成年人的学习。在他的文章里，也有一些比较抽象的技术概念，我尽量用大白话讲清楚。

他口中的「外星思维」，说的是一种形成方式跟人很不一样的智能。

咱们平时跟人打交道，多少有一些共同经验。可AI的能力，是研究者用大量数据、算力和反复训练培养出来的。

研究者设计了训练方法，但模型最后到底学会了哪些内部规律，遇到一个新问题又会怎么调用这些规律，哪怕是研发它们的人，也没办法完整解释。

帕乔茨基给了一个形容：AI更像是被「养出来」的。养出来以后，它有时候会做什么，连研究者自己都会意外。

这就带来了一个麻烦。AI能听懂我们的话，也能把事情做得很好，但到了一个以前没遇到过的情况，我们凭什么相信，它还会按我们认可的原则做事？

帕乔茨基在这里区分了「目标对齐」和「价值对齐」。

目标对齐这个词比较好理解，就是你交代它一件事，它会努力完成，也会尽量弄明白你到底想要什么。比如你让它减少客户投诉，它就围绕这个目标想办法。

价值对齐就更麻烦一点。你交代的目标可能本来就不够清楚，几个要求之间可能有冲突，也可能藏着很多你自己觉得是常识就说的禁区。

一个模型可能越来越擅长完成目标，同时也越来越会找到我们没想到的办法。但是这里头有些办法，恰恰是我们不愿意接受的。

我举个生活化的例子，你马上就能理解了。我和脱不花今年有个约定，要进100次健身房。这个约定，目标就是进100次健身房，背后的价值是身体健康。

但我最近都在骑车上班，几十分钟下来，到公司就一身臭汗。所以，我就会进健身房洗个澡，然后再进公司。

你看，单纯看目标的话，我确实进了很多次健身房，数字目标也在完成。但是从最初我俩的约定来看，肯定不是让我进去洗100次澡。

这个咱们都能理解，但对AI来说，要区分你嘴上说的，和你真正想要的，还真是一件挺难的事。

我再打个比方，假设你负责一项服务，让AI想办法减少客户投诉。它交上来一套方案，投诉数字确实降下来了。

但你仔细一看，发现这里边一个办法是把投诉入口藏深一点，另一个办法是让客户多填几张表，那客户觉得太麻烦就放弃了。

数字确实是变好看了，但客户反而更生气了。

碰到这种情况，你当然可以给AI补一句：不许这么做。因为我们的真正目标是改善用户体验，投诉数字只是观察问题的一种方式。但AI分不清这个。

更何况，在现实工作里，因为KPI目标导致动作变形的情况实在太多了，而且很多非常隐蔽，有时候就连专家也未必能一眼发现里面的猫腻。

那如果你从来没接触过客户，也没学过怎么分析问题，AI给你的报告却很完整，有图表、有数据，你拿什么发现里面的问题？

我觉得，学习就是在帮我们积攒这份判断的依据和经验。

这有点儿像管理一家餐厅，炒菜可以交给厨师，但菜端上来，你得知道顾客为什么不爱吃。只看出餐速度和成本，这家餐厅恐怕就要黄了。

我们可以依靠专业的人和工具，但那些真正要紧的环节，自己也得懂。

我们看AI给出来的方案也一样。同样几份AI出的方案，不同人看到之后，关注点有非常大的区别。没有具体知识和经验，你可能连哪一句值得追问AI都不知道，还觉得自己全懂了。

我看到过一个教学实验，恰好把「做得好」和「学没学会」分开测了一次。

研究者让近千名高中生参与数学实验，其中一组使用基于GPT-4的普通聊天式工具。对照组，就是没有使用聊天工具的学生。

结果呢，这组的练习成绩比对照组高了48%。但撤掉工具以后再考试，这组成绩反而比对照组低了17%。

同一个实验还有另一组，研究者给AI加入教师准备的材料，要求它按照教师给的提示来引导学生解题，不直接甩完整答案。

在AI的帮助下，这组成绩其实比对照组高了127%。撤掉工具后再考，这组基本没有出现前面那种负面影响，当然，也没测出显著的成绩提升。

所以这两组实验就特别有意思了，至少你不能直接说「用AI会让人变笨」。但是怎么用AI能发挥出作用，其实就是第二组里，让AI懂人类教师的材料。

不仅仅是高中生，成年人也有这个问题。你可以设想一个任务，比如AI帮你做了一份行业分析，发给同事，大家觉得很专业，这项工作可以算交付了。

但你自己心里可能知道，AI做出来的那些东西都是它做的，其实你并没有借这次机会更懂这个行业一点。

所以，用AI干活之前，我有个小建议，就是咱们可以先分清楚：这次是要赶紧交差，还是想借机学点东西？

两种目的肯定都合理，但会影响我们下一步怎么用AI。

如果是你已经非常熟练的排版、整理、格式转换之类的工作，尽管让工具去做。

可要是你正在学怎么分析问题，研究一个行业或者一家企业到底有什么独特的地方，那还是需要你和AI一起去完成，不要完全交给AI。

因为这时候，AI的目标是把任务完成，而你的目标里，还多了一件事：把能力长到自己身上。

说到这里，另一项针对194名哈佛本科物理学生的研究也发现，经过专门教学设计的AI辅导，在所测试的两个单元里，让学生用更少的时间获得了更大的学习提升。

这个结果，也同样让我们看到了AI帮人学得更好的可能。

如果你在学习看经营数据或者报表，可以试试先写一个很粗糙的判断：这个月销量降了，我猜是涨价造成的。再让AI挑毛病，问问还有哪些解释，要看什么数据才能分清。

它可能会提醒你，先看看是不是缺货。你再补给它库存数据，然后决定原来的判断要不要改。

这样训练几次以后，下次你看到销量下降，自己可能就会想到之前跟AI的协作：哦，还得查查库存。

不过，假如以后的AI连这些判断都能做得很好，我们是不是又没必要学了？

我觉得，学习的理由不能全押在「AI还会犯错」上。

不然，模型每进步一次，我们就得重新找一块它暂时不会的地方，像阿Q一样反复证明自己有用。想学习、理解一件事，也可以就是因为自己有兴趣。

比如旅行，订票、查路线、比较酒店，都可以交给AI。但你读过一段历史，到了某座城市，可能就想多待两天，哪怕多花钱、多绕路也愿意。如果没读过那段历史，你可能压根不会有这个念头。

学习会让我们对一些原本不知道的东西产生兴趣，就连想让AI帮忙做的事，都会跟着变。

其实这就是我最近经常说的，AI往后发展，不是来替代我们的工作，而是能和我们一起去研究一些新的事情。

以前可能光是想想就觉得很难了、干不了，但现在有了AI的帮助，可以一起去看看那些以前不敢碰的问题。

现在我每次面试，也都会问一个问题：除了工作中的AI，你在生活或者兴趣上，会用AI做什么样的事情？

最近就有个技术同学，给我看他的一个智能体，叫「吵架陪练」，就是用实时语音跟AI吵架，说是要练习自己面对这种场景时的应变能力。

说实话，我觉得吵架这事，是需要靠天赋的。但是他这个用AI的解题思路，还是非常清奇的。

最后，我想说的是，每个人都有自己当下想要学习的东西，可能脑洞大开，可能无比荒诞，但这恰恰就是AI预料不到的地方。

参考资料

1.《外星思维》：

https://openai.com/index/an-alien-mind/

2.第一个实验论文：

https://www.pnas.org/doi/10.1073/pnas.2422633122

3.第二个实验论文：

https://www.nature.com/articles/s41598-025-97652-6