碰撞：机器之心与人类之心

本文来自微信公众号：经济观察报观察家 （ID：eeoobserver），作者：周泽雄，头图来自：电影《Her》

一

我们生活在由和我们非常不同的人在我们出生很久以前发明的思想牢狱之中。

——GPT-3

作者一栏我没标错，这句结构婉转、见解深邃的短语，不是出自人类大脑，而是源于机器之心。

GPT-3是总部位于旧金山的OpenAI公司研制的大型语言模型，也是当下大热的聊天机器人ChatGPT的前身：它们都被伺喂了海量知识信息，辅以优异算法和“预训练”，拥有人间绝顶天才也无从媲美的知识结构、语言体量和文字瞬间生成能力，能滔滔汩汩、不舍昼夜地表达仿佛出自人类的看法。它们也经常犯错，忽大忽小，像极了人类。

诚然，机器是否有心，尚存争议。但大量正经人士已着手正儿八经地面对它，他们不想假装这个问题不存在。他们不再拘泥于“心灵”的生物形态和材料属性，而是力图摆脱“非常不同的”前人设定的“思想牢狱”，重新定义它。

你若把这句AI短语读上几遍，涵泳玩索，兴许会看到一艘未来飞艇，飘过脑海。是喜是忧，尚难断言，但生性敏感的文字客或已萌生“三千年未有之大变局”的忧患意识——肯定比“杞人忧天”来得现实。

说说这句短语的起因：2021年，以色列历史学家尤瓦尔·赫拉利打算为自己的学术畅销书《人类简史》（Sapiens: A Brief History of Humankind）“十周年纪念版”写一篇新序。付梓前，他想到了咄咄逼人的AI语言模型，遂灵机一动，把写序活计派单给了当时最成熟的智能产品GPT-3，命令它模仿自己的风格，为该书写序。

GPT-3接到指令，不吭不咋，负重前行，“收集了我（作者）写过的书和文章、对我做过的访谈，以及在网上找到的几十亿个句子”。它的三小时工作量相当于人间的几世几劫，总之，它拿出了一篇瑕瑜互见、差可乱真的序文，足以让赫拉利“目瞪口呆”：是我写的吗？

读者可在《人类简史》的新版序言里，读到这篇“没有经过任何编辑改动”的机器人原创。水准如何，作者最有发言权。赫拉利并未全盘认可，但他“心情复杂”。他指出GPT-3提炼归纳的某些观点有违自己本意，甚至还“荒唐可笑”；但他又说，这些缺陷并非一目了然，他身为作者，也“得把GPT-3的文字仔细读上一两分钟，才能得出这结论并非出自我手”。他不认为自己的写作饭碗马上要被AI取代，但预感来日无多，由人类独领写作风骚的好日子怕要到头了。他说：“GPT-3不会夺走我的工作，至少今后几年不会。”

嗯，只是“今后几年”，而两年已经过去，当下的全球热搜版ChatGPT正是它的升级版。它的进化之途刚刚起步，来日方长，茫无涯际。

出身牛津的犹太历史学者赫拉利，原是一位学识广博、见解不凡的史学奇才，擅长多学科、多风格、大交叉的才子式写作。他非常年轻，生于1976年，有着可与文学家争胜的表达天赋，偶尔还能变身奥斯卡·王尔德，向读者抛出神奇联想和精妙警句，文风如莲花朵朵。我的意思是，赫拉利或许属于地球上最不甘心向AI臣服的少数天才之一，他若批评AI机器人，或许比别人更有话语权，词锋也更犀利精准。但他没有，他拒绝让胸腔里的狂野干扰头脑中的明智，他默默收拢雄心，像一位冷静盘点余生的老者，不敢对更长的岁月抱有奢望。——这份谨慎令人心疼，也值得刮目。尽管，他也可能只是循例展示牛津系学者惯有的低调，一种极度高冷的谦逊。

我引为题记的那句短语，赫拉利也“完全认可”，他甚至从中意识到自己的使命：

在我看来，像我这样的历史学家的工作是展示这些思想牢狱是如何建造起来的，并表明我们并非注定关在其中无法逃脱。

我还想补充两句，这句AI格言，与那种让人一见生喜、拍案称奇的文人俏皮话，貌合神离。试以经常为人引用的木心妙语为例：“上海是人海，街上没有兵，没有马，却兵荒马乱。”很过瘾的词语勾搭，不是吗？音节里的诸多谐趣，令汉语读者喜不自胜。然试加拆解，再给它加上消音装置，你可能发现，之前那种金声玉振的意外已遁形不见。人们大概是出于母语的牵引，被它逗得人仰马翻。你或许同意，它的趣味过于娇嫩，不可能在翻译的“酷刑”下全身而退。

反观“我们生活在由和我们非常不同的人在我们出生很久以前发明的思想牢狱之中”，词语组合绝无出彩，作者非但无意让你尖叫，还试图让你皱眉。但你想必同意：译成任何文字，都无损其思想成色。

尽管GPT-3不会向人类主张版权，但只要存有自知之明，人们就未必敢窃为己有。我就不敢，以我庸常的知识能力和思想层级，把自己名字缀在句后，相当于一位麦当劳配送员开着价值百万的超级跑车给人提供服务，太别扭了。我追随着这句话，仿佛进入一个无限细分的微观世界，直到被一只思想黑洞所吞噬。木心的妙语始于一种文士天赋，源于一道偶然闪现的语词顿悟。世上有此妙语固然好，万一没有，坦白说也没啥大不了。而GPT-3的短语所折射的思想，具有可追溯、可展开、可论证的特征，我们最好听说过，从中受到的启示将是扎实和长远的。

二

在当下，讨论智能语言模型会怎样影响人间写作，既必要，又多余；既时髦，又落伍。

显然，人们必须正视并面对它，尤其在有权注册、有资格把ChatGPT当成“万事通仆人”来使唤并逗弄的区域（目前不包括中国大陆）。在那里，老师开始头疼学生作业里的道德瑕疵；期刊编辑正为鉴别来稿的原创性发愁；自媒体写手则在努力借用ChatGPT的法力，确保不露痕迹，俨若己出。我们听说，有些侦探小说家已麻利地与ChatGPT展开“天知地知”的深度合作，总统发言稿交由ChatGPT起草，也不再是新闻。我们可以想象浩瀚的数字空间出现了不计其数的幽明洞穴，贪婪的技术先行者正像中古炼丹士那样，夙兴夜寐，苦修着一本万利的创作仙丹。——凡此，均显出讨论的“必要”和“时髦”。

另一方面，此类语言模型正处于头巾初揭的惊恐失措期，仍会不时闹出笑话。那些意在侦缉ChatGPT弱点以便排除人类事务不正当竞争者的人士，每天有大把大把的讽刺挖苦工作可做。作为自封的卫道士，他们忙着捕捉AI的各种过错，竭力把它们证明为不可原谅、脱困无门的机器人原罪，或产品劣根性。他们原则上不鼓励、不允许ChatGPT展示改过自新、继续进步、与人类协同发展的意愿——那意味着他们白忙一场。

比如，ChatGPT曾把林黛玉说成金庸笔下人物，还敢用苦口婆心的狂妄口气，指出与贾宝玉最般配的贾府女性，其实是贾母。似乎ChatGPT接受训练之初，疏于聊天礼仪的培养，它哪怕正在制造超级笑料，言语气质仍显得一本正经和煞有介事。这让人忍俊不禁，但就此发表结论性否定意见，又显得“多余”和“落伍”。因为，人类嘲笑的，多半是它正在或已经改进的。它随后增进的“红学”知识，会迅速让我们望尘莫及，把人类的认知激情远远甩在身后。

我想，稍稍提及2016年谷歌旗下的DeepMind团队向李世石九段发起围棋五番棋挑战并轻松获胜的往事，也许不无帮助。两者不乏可比性。

在AI机器人“阿尔法狗”（AlphaGo）及其继任者全面碾压人类棋手之前，围棋曾是一个得到圣光护持的神性职业。围棋手虽然知晓智能机器人在别种游戏项目（如国际象棋）中的压倒性成就，但八风不动，信念弥坚。他们坚信，围棋里含有大量不宜归入计算的技艺，围棋不仅属于竞技，它还是哲学，是玄而又玄的道。在棋枰前端坐沉思的大棋士，可以类比为任何类型的智慧大师而无愧色。所以，围棋手当年在一种决非傲慢和轻敌的心境下，不约而同地鄙视着那条“狗”，他们脸上写满了“何必自找没趣”的表情。比如，有一种经常为棋手提及的素养“大局观”，它是庸手不可逾越的智力界碑，也是AI机器无从偷渡的绝对天堑。棋手认为，除了计算力，“大局观”里还包含着感觉、气质、决断、胸襟等异能，它们各有侧重的玄妙组合构成了棋手最为推崇的秘境：风格。机器人对此必然彻底抓瞎。——想想真是伤感，关于这个话题，人类棋手当年爆发出何等爽朗的纵情大笑啊。

后来的故事已是老生常谈，围棋手在AI面前输得面无人色，灰头土脸。随后，再也没有棋手提及“大局观”了，“风格”也变成一种毒药，转眼已无人问津。经过海量失败，第一流棋手痛苦地意识到，“大局观”云云，只是计算能力不足的人类所特有的臭美之辞，对于拥有美妙算法和凌厉算力的AI机器人来说，只要提供充沛电力和够用的服务器，它随时可以下出最为神鬼莫测、笼罩全局的妙招，哪怕你不叫它“大局观”，它也能把人类的妙招贬为庸手。

围棋是天网恢恢的艺术，一着不慎，全盘皆输，成败输赢并不取决于棋手的决心与豪情。写作，说来惭愧，其实倒是越狱的艺术，优劣较难检验，一俊可遮百丑。当我们谈论写作，我们眼前的“前人的思想牢狱”，尤其牢固阴森。

写作人历来擅长将本行业的某些特质神秘化、玄学化，并将其排除在机器心灵之外。我们喜欢自我高估，总是将风格、个性、节奏等因素视为外行无法触碰和领略的人间妙趣，更遑论机器。

而真相可能是，受制于情感、知识面和不切实际的生物雄心，人类在写作领域总是过度依赖一些违规策略。他们为了获得上帝视角，喜欢假定自己拥有以小见大、窥一斑而见全豹的能力。但凡带来“弯道超车”利益的错觉式捷径，都为人类作者乐此不疲，比如我们热衷于制造并相信警句格言；为了摆脱思维苦役，我们急不可耐地把某些理论宣布为无需论证的永恒真理，以便收获一种悖论式利益：不假思索地品尝智慧果实。把大人物（有些还是远古大仙）誉为永不犯错的智慧超人，也符合人类的惫懒特征，那样他就仿佛购买了高额真理保险，只要引用权威，就自动获得免予质疑的思维特权。面对生动的比喻、奇妙的寓言和象征，我们也经常无法自持，会迷信到花枝乱颤的地步，近乎失控地认定俏皮话里藏有上帝的彩蛋。作为语言的动物，我们还有语词迷信，笃信真相的纸牌会躲藏在迷人韵律和铿锵节奏的里面。这是我们的人种特质，也是我们的智力软肋。

写作中的我们志大才疏，自我揄扬，圣化无度，认识世界的能力远远滞后于认识世界的渴望。我们其实需要ChatGPT施以援手。

三

当然，存在着两类写作：一类致力于丰富人间趣味、润滑人际情感，讲述人生故事，提升人类意义；另一类专注于事实核验、科学发现和真理追求。

前一类，亦即传统的文艺领域，我们不需要智能语言模型提供帮助，除非它甘愿将角色限定为助理。即使存在比人类更擅长写作的外星人或智能机器，我们仍只会阅读同类的作品，这是由物种间特有的排他性共鸣所决定的，兴趣取决于“来电”，勉强不得。就像我们虽然知道豹子和马更擅长奔跑，但不会为了看它们竞技而花钱买票，除非加入另一项人类嗜好：带点赌彩。

围绕真理和真相的写作属于另一世界。既然超级计算机和卫星云图能帮助我们更好地预报灾害性天气，为什么更大的思维活动和重大判断——比如“人类从哪里来，到哪里去”，某场祸及人类整体的战争是否值得开打——我们只能相信一只肉脑和千万只军靴的合力跺脚呢？

为说明两类写作的界限，我试以鲁迅为例。鲁迅喜欢谈论中国人的民族特色，并将其纳入到“改造国民性”的悲壮努力中。当他批评中国人如何如何时，给人的印象通常是：只有中国人这样，别国人并不如此。这很正常，没有人会强调不分彼此的特征，只有差别才需要特别拈出。鲁迅一个著名例子是解释自己弃医从文的理由，他当时在一部幻灯片里看到了中国人的麻木不仁：他们面对同胞无辜被戮，居然个个都像机械的看客，缺心少肺。鲁迅深受刺激，从此，中国多了一位伟大文学家。

鲁迅只是谈论自己职志的改变，他的表述具有私人属性，他意欲延伸的观点，关联一个民族的奋起，虽不足以令人信服，至少值得尊敬。所以，他暗嵌文中的情绪化看法“只有中国人特别喜欢充当无聊看客”，就未必需要经受事实核验。鲁迅经由这个不成熟看法完成了职业转变和人生升华，该看法也就完成了自身使命。

但是，假如读者过度吸取鲁迅的营养，将他的激愤之词视为不刊之论，论定中国人确是最喜欢充当看客的凉薄民族，就大欠分寸了。因为后者已然进入另一个学术性论域，需要广泛考察、充分论证，它不应由一种文人愤懑——不管动机如何——来引导并定性。据我所知，“看客”其实是一种广泛存在的人性，不会仅仅出现在单个民族之中。我在书籍和影视作品里见到过大量“看客”，场面并不逊色于鲁迅所见的幻灯片，无论英国人、意大利人、荷兰人还是越南人，都差不多。你可在电影《西西里的美丽传说》和《黑皮书》里见到足够惊骇的场景。

甚至，拒绝当“看客”，不见得就更高贵，说不定更不堪。索尔仁尼琴曾提到一些心肝迷失的囚犯，对同类的不幸毫无兴趣：“简直跟一群鸡差不多。事实上每一只都得在喉管上挨一刀，可是它们还咯咯地自言自语，到处觅食。一只被抓去宰了，其余的照旧刨土觅食。”

所以，当写作目的不限于“诗言志”，还打算就不同民族的脾性和道德感作一番深入比较，写作的私人化目标就必须让位于更具公共性的学术目标；有条件的话，作者也大可请求智能语言模型相帮，或干脆命它写一篇，让我们看看会受到何种启迪。

《人类简史》的作者赫拉利总在强调一项事实：人类并不是多么了不起的物种；人类之有今天，缘于各种生物和进化上的巧合，纯属狗屎运。人类虽已拥有改变世界的技术能力，心智却严重落伍，他们在生理上与两万年前的祖先没有本质区别。

在全书结尾，赫拉利给人类下的判词是：“拥有神的能力，但是不负责任、贪得无厌，而且连想要什么都不知道。天下危险，恐怕莫此为甚。”

大型智能语言模型或能提供一臂之力，帮助人类释放风险，提升“智人”责任。

虽然，我对其中的复杂技术及未知风险，毫无头绪。我不是适合谈论的人。

回到开头引用的那句GPT-3短语，由于我没有ChatGPT的使用权限，遂委托海外好友倪兄充当机械臂，向它求教，要求它“用400字告诉我，GPT-3到底想说些什么”。下为ChatGPT的回复：

当GPT-3说“我们生活在由和我们非常不同的人在我们出生很久以前发明的思想牢狱之中”时，它想表达的是我们现代人所处的社会、文化、思想、价值观等方方面面，都是由过去的人所创造和塑造的。这些人的观念、信仰、文化、科技、制度等等，都被传承下来，并在不断演化和改变。而这个传承下来的体系，就像一座思想的牢狱，框定了我们的行为、思维和感受。

举个例子，我们现在所使用的语言、信仰、政治制度等等，都是由过去的人所发明和创造的。比如，我们在使用的汉字就是由中国古代人所发明的，我们所接受的哲学思想、宗教信仰、科技成果等等，都是由过去的人所发明和创造的。

而这个思想的牢狱，也影响了我们对世界的认知和理解。我们的认知、理解和思考方式，也都是受到过去人的影响和制约的。例如，西方文化中，强调个人主义和自由，而东方文化中则强调集体主义和家庭观念。这些思想和价值观的差异，就是由于过去人的思想所造成的。

因此，当GPT-3说“我们生活在由和我们非常不同的人在我们出生很久以前发明的思想牢狱之中”时，它的意思是：我们所处的世界是由过去人所创造和塑造的，我们的思想、行为和感受都是在这个框架内发生的。这个框架对我们的认知和理解产生了很大的影响，也限制了我们的想象力和创造力。但同时，我们也可以通过学习和思考，去拓展自己的思维边界，创造出新的思想和价值观。

说得够好了，唯字数略超出，意思稍重复。它是用中文说的，它在英语世界得到的知识投喂和能力培训，远在中文之上。它拥有无限的算力、无穷的精力，不必量入为出、精打细算，凡有所求，必有所应。当我们视它为工具，它也正把人类当成实验对象，我们夜以继日对它进行的狂轰滥炸式提问，也在日以继夜地助它打怪升级。双方的能力值处于此消彼长、急剧转换中。

它的未来不可限量。该未来会在何种程度上提升人类福祉，确保我们不会毁于一种失控的Bug，似乎没人知道。但我愿意拥抱它。

本文来自微信公众号：经济观察报观察家 （ID：eeoobserver），作者：周泽雄