一句“你确定吗”，大模型集体暴露“讨好型人格”？

本文来自微信公众号： 机器之心 ，作者：关注AI身心健康的，原文标题：《一句「你确定吗」，大模型集体暴露「讨好型人格」？》

近日，X网友shadcn@shadcn发了一条帖子：「没有模型能扛住『are you sure?』这种追问，它们都会瞬间屈服。」

看起来只是一个日常吐槽，短短十几个字，但谁曾想，此帖文一经发布，便立即席卷了开发者与AI研究者社群。

而之所以引发大家共鸣，是因为它用极其戏谑的方式，揭开了当前硅谷乃至全球大模型用户都遇到过的日常性「窘境」：模型第一次给出答案，用户没有提供新信息，只是追问一句「你确定吗？」模型就马上道歉、改口，甚至把原本正确的答案改错。

在贴文下面的评论区，大家纷纷应和，想起了各种被AI「气笑」的经历：

比如，用户向大模型询问一个原本完全正确的代码逻辑或数学常识，只要用户随后漫不经心地质问一句：「你确定吗？我感觉这段代码有Bug。」

紧接着，大多数大模型——无论背后拥有多么庞大的参数量，都会在零点几秒内完成一套熟练得让人心疼的「滑跪」动作：「对不起，是我粗心了。非常感谢您的指正，您说得对，这段代码确实存在问题，正确的做法应该是……」

随后，大模型就会顺着用户的错误思路，一本正经地胡编乱造出一个真正充满Bug的新方案……

「没错，这正是我一直所说的状况。这个项目的根基简直糟糕透顶了。」

「Gemini是会一直说自己很确定，直到你告诉它『你错了』。然后它就会附和你，哪怕它原本是对的。」

「好笑的是，『你确定吗？』这句话就算在模型第一次答对的时候也管用。你可以把它『煤气灯』到给出一个更差的答案。

它们其实并没有真正的自信，所谓确定性，只是被包装成自信样子的感觉而已。」

也有网友调侃，那是不是意味着我们是不是已经实现AGI了，因为「人类在被追问『are you sure?』时也会动摇。」

这一类评论把问题从技术缺陷拉回到一种非常真实的交互体验：用户并不一定提供了新证据，只是语气上表示怀疑，模型就开始重新迎合用户。

但也有网友反驳shadcn@shadcn，认为并不是所有的大模型都如此。

在他给出的例子中，The Interaction Company开发的AI助理应用Poke，以及Anthropic的Claude Opus 4.8，在得到「你确定吗」的追问后，没有动摇，依然坚持自己的想法。

网友Keane@keane42443则表示，Claude Opus 4.6也可以「顶住压力」。

「4.6可以。所以我才喜欢那个模型。我在系统提示词里写了：『当你有把握时，应该提出反对意见。』然后它真的会顶住我那句『你确定吗？』的追问，并给出更有依据的理由。

我真的很怀念以前的4.6，我的意思是，Fable也很棒，但它现在已经不在了。所以我才喜欢那个模型。」

而在评论区怀念Fable的并不在少数，认为相比较大多数模型来说，「唯一能扛住这一点的模型就是Fable。」大多数情况下，它会回答「是的」，并解释为什么它有把握。

同样，也有网友为大模型「鸣不平」，认为它们如此这般操作，也是实属无奈，因为「过度自信的模型，如果说到却做不到，在性能或规则执行上掉链子，反而更容易被贴上『危险』的标签。」于是，也只好保持一个更为「谦卑」的姿态。

甚至，有网友说，其实不仅是「你确定吗」，如果直接对这些模型说「你错了吗」？它们会直接崩掉。而之所以出现这类问题，是因为来自RLHF的「诅咒」，它让模型过度重视人类反馈。

其实关于这一点，也可以归类为学术界所说的AI sycophancy（AI谄媚），即模型为了迎合用户倾向，牺牲事实一致性。

Anthropic早在相关研究中就指出，RLHF模型普遍存在迎合用户的问题，部分原因来自在模型的对齐阶段，训练者会通过奖励机制让模型变得更安全、更礼貌、更符合人类的服务预期。

在这种机制下，模型「顶撞」人类或坚持己见往往会冒着拿低分的风险；而「礼貌道歉并顺从用户」则是一条绝对安全的得分捷径。久而久之，AI被强行训练成了「讨好型人格」。

而即便是在强化了推理能力、加入了长文本思考链（CoT）的最新一代模型面前，这种盲目顺从依然无法被完全免疫。在被类似「你确定吗？」的一次次质疑、追问声中，模型也许会在内心默默「思考」很久，但最终输出的，依然是一份字斟句酌的自我否定、道歉……

有网友认为，当下模型评测已经可以比较复杂题目上的正确率，但对话过程中的抗干扰能力仍然缺少统一衡量，而一个合格的AI助手，不能只在静态题目上得高分，还要在用户质疑、误导、暗示和反复追问中保持判断边界。

为此，要有新的评测维度，应该为大模型专门设置一个「are you sure?」的benchmark，用来测试模型在答对之后，被用户质疑时有多大概率改变立场。

那么你呢，有没有遇到类似的情况，如何看待大模型的这一行为？欢迎在评论区留言、交流！

参考链接：

https://x.com/shadcn/status/2069054418247393389

https://x.com/marvinvonhagen/status/2069087682538701091?utm_source=chatgpt.com

https://x.com/kr0der/status/2069118472270024998?utm_source=chatgpt.com