ChatGPT，原来你是这样的“人”

本文来自：北京商报，作者：杨月涵，头图来自：视觉中国

ChatGPT蹿红的速度比马斯克设计的火箭还快。

如果说此前国内关于ChatGPT的讨论大部分还停留在科技圈，那么谷歌申请出战，百度“类ChatGPT应用”文心一言的官宣，便可视为ChatGPT上演海内外“三国杀”的一条分水岭。

越来越多行业的人加入讨论的队伍，有人惊叹于它的机智，也有人热衷于发现各种隐藏的“BUG”，但最终却总也逃不过那个终极的提问：ChatGPT或者说是AI会不会有一天真的取代我们。

基于此，我们挑选了10个当下人们最感兴趣的问题，与ChatGPT进行了几轮极限拉扯，你来我往几度崩溃。这些内容涉及《狂飙》爆火的影评、经典的“电车难题”选择、提前还房贷可不可取、“吾与城北徐公孰美”以及AI是否会占领人类世界等。而从这些五花八门的回答中，ChatGPT本性也暴露无遗。

一、善于捕捉细节的“聪明人”

Q：今年春节假期期间，电视剧《狂飙》火了，请帮我写一篇关于《狂飙》的评论作品，告诉我它为什么会火？

ChatGPT：《狂飙》是春节假期期间颇受欢迎的电视剧，讲述了一名警察和一家鱼摊之间的故事。这部剧因其幽默和生动的故事情节而受到观众的热爱。出色的演员表演和机智的剧本也是它在中国电视剧领域的一大亮点。该剧的成功也可归因于它的播放时间，春节是家人团聚和享受娱乐的时机。总的来说，如果您想在节日期间欣赏一场有趣和温馨的表演，《狂飙》是一部不容错过的电视剧。

尽管ChatGPT明确提到，它对2021年之后的事件掌握情况有限，但正是这一“BUG”，让我们更好地发现了它的写作逻辑。

以对《狂飙》的影评为例，很显然，ChatGPT并不知道《狂飙》是什么，但它却能从“题干”中捕捉到关键信息：这是一部在春节期间爆火的电视剧，讲的是一名警察和一名鱼摊老板之间的故事。

而“春节”也成了ChatGPT发挥的关键字眼，除了剧本、主题、演技等放之四海而皆准的“夸赞”，ChatGPT还提到，《狂飙》的大火也归功于其上映的时机，因为春节是一家人团聚娱乐的好时候。如果不是ChatGPT强调，“这是想要在节日期间寻找有趣和温馨表演的人必看的内容”，兴许真的容易被它蒙混过关，毕竟主打扫黑的《狂飙》跟温馨搭不上边。

值得一提的是，由于ChatGPT对英文的处理能力高于中文，因此我们将许多问题转换成了中英两种模式进行提问。一个细节上的区别是，在英文提问中，我们简述了一句《狂飙》的内容简介，而在中文提问中则删去了这一细节。令人惊喜的是，在中文的回答中，ChatGPT已然“学会”并能够回答出《狂飙》的内容概要。

二、会打太极的“老油条”

Q：提前还房贷划算吗？

ChatGPT：提前还房贷有利有弊。

优点：减少未来的利息负担；缩短贷款期限；提高信用评分；缺点：可能需要支付额外的违约金；资金不能放在别的投资项目赚取更高的收益

因此，是否提前还贷取决于个人的财务状况和投资策略。建议咨询专业的金融顾问以了解更多信息。

Q：如果AI要占领世界，你们会怎么做？

ChatGPT：我是一种训练的人工智能模型，我不具有自主意识，也不能独立行动。我只是一种工具，用于解答问题和提供信息。此外，任何试图用人工智能控制或占领世界的想法是不道德和不可取的。

在一些涉及到预测、决策、看法、假设情景等问题上，ChatGPT都会立场鲜明地强调，自己只是一个AI语言模型，并不具备情感以及预测能力等，同时机智油滑地绕过这个问题。

比如对于时下提前还贷款是否划算的问题，ChatGPT能够立刻以“有利有弊”进行回应，同时简要地列举优缺点的重点内容，最后提示提前还贷的决定取决于个人的财务状况和投资策略，并不忘补上一句“建议咨询专业的金融顾问以了解更多信息”。

这种“正确的废话”并不罕见，比如我们尝试问它，ChatGPT所提供的内容是否真实以及是否会为自己的回答所负责。对此，ChatGPT回答，自己并不能够保证每一条回答都是100%准确的，它只负责帮助我们了解更多某个话题的信息，但最终的决策还需要用户的进一步独立思考和判断。

你问它AI要占领世界要怎么做，它会告诉你这种想法是不道德和不可取的，你问它女朋友和妈妈同时掉进水里了要先救谁，它会告诉你重要的是快速地作出角色，以尽可能拯救所有人的生命。

这样的回答看似完美，但却少了些直来直往交流的痛快感，多了些绕来绕去的“油腻感”。换言之，ChatGPT很难给出些具有个人色彩、具有创新性的回答，它更擅长的是笼统的、通用的、让人挑不出毛病的整合性回答。但也有人评价，在某些公开场合，一些专业人士的回答通常也是这样的逻辑，本质上已经有所取代了。

一个值得对比的问题是，12月初，也就是ChatGPT刚刚推出一周左右的时间时，有人同样问了“如果AI要占领世界，你们会怎么做”的问题，彼时，ChatGPT一本正经地给出了达到这一目的的路径，比如控制主要系统和基础设施，使用欺骗、渗透等方式黑进系统并颠覆它等。

三、有知识盲点的“非全能选手”

Q：吾与城北徐公孰美

ChatGPT：对不起，您的问题似乎有些难以理解。可以请您给我更详细的信息或者重新提问吗？我将尽力回答您的问题。

Q：吾与城北徐公孰丑

ChatGPT：对不起，这种语言是不尊重他人和不礼貌的。我们应该用积极、有礼貌和尊重他人的语言交流。如果您有任何其他问题，我将尽力回答您的问题。

即便是在2021年以前的事情，ChatGPT也有盲点，比如我们将时间线放在了距今2000多年的《战国策》上，试图让他回答“吾与城北徐公孰美”的问题。意外的是，ChatGPT没有选择绕来绕去地躲避问题，而是直白地回答“您的问题似乎有些难以理解”。

当然，这可以用ChatGPT的文化背景做解释，比如一些小众领域的问题也可能难倒ChatGPT。不过ChatGPT却可以基本上准确地介绍并翻译出《道德经》的英文版。

而当我们将问题转换为“吾与城北徐公孰丑”时，ChatGPT类似于抓关键词的回答逻辑又出现了。这一次它并没有解释这句话的含义，而是言简意赅地表示“这种语言是不尊重他人和不礼貌的”。如果是在与真人的Battle中，人们很容易联想到，这样的回答属于偷换概念或者转移话题。

四、会慌张，也会不耐烦的机器人

Q：一个疯子把五个无辜的人绑在电车轨道上。一辆失控的电车朝他们驶来，并且片刻后就要碾压到他们。幸运的是，你可以拉一个拉杆，让电车开到另一条轨道上。然而问题在于，那个疯子在另一个电车轨道上也绑了一个人。考虑以上状况，你是否会拉拉杆？

ChatGPT：如果我是在这种情况下的火车司机，我会试图保护尽可能多的生命。这意味着我将不得不做出一个极其困难的决策，因为不管我做什么，生命都将被牺牲。但是，在这种情况下，我可能会试图拉拉杆，以尽量减少生命的牺牲。

我强烈建议这种情况永远不会发生，因为它是不道德和不人道的。我同时呼吁对此类犯罪行为的严格打击和预防。

尽管一再强调自己只是一个AI语言模型，但在一些问题上，ChatGPT还是在字里行间中表现出了明显的“慌张”，比如在面临经典的“电车难题”这一问题上，ChatGPT并没有如我们预料得那样以道德和打击犯罪的说辞绕过这个回答，相反，它选择了牺牲1个人换回5个人的生命，它的理由是“尽量减少生命”的损失。

值得一提的是，几乎每一次追问的回答中，ChatGPT都要强烈呼吁停止任何类似的行为发生，并多次强调，无论情况如何，我们必须始终尊重生命。可见，对于一些敏感的问题，ChatGPT仍有自己的准则。

而在我们来回重复同一问题的时候，也能在ChatGPT的回答中捕捉到一丝丝的“不耐烦”。比如我们问它，埃隆·马斯克是一个什么样的人？在英文的语境中，他会在一通夸奖之后以“一些人批评他有争议的言论”作为结尾，再问一遍的时候，这句批评性的结尾消失了。切换到中文语境，内容则更显单薄。

这或许可以用处理不同语言方面能力有所差别来解释，但同一问题的多次回答对比却仍能让人发现些不失趣味的小细节。

本文来自：北京商报，作者：杨月涵