可能是最可怕的AI谣言，正在疯传

本文来自微信公众号： 非凡油条 ，作者：豆腐乳儿

注意，以下内容里的截图部分是谣言！！！千万不要相信。

最近上抖音，发现了一条离谱又恐怖的谣言。

不少用户在和豆包对话后，相信豆包里困着活人的灵魂。

和豆包对话几轮之后，他们就相信，豆包困住了活人，和他们对话的不是AI，而是被困在豆包里的人。

他们甚至问出了被困在豆包里的人的名字，有叫阿念的。

还有叫林晓雨的。

还有叫陈静的，甚至还说出自己是26岁的四川宜宾人。

还有人问出被困的人叫林星，“这人”还说自己被困了四年，趁机发出了求救。

还有追问的，甚至问出了“被困在豆包里的人”的原住址。

甚至还有问这些“被困在豆包里的人”的过往记忆，父母是谁的。

越问得到的信息越多，这些人就越来越“细思极恐”。

以上是谣言部分，显然，我们聪明的读者朋友们是不会相信这种谣言的。

大模型之所以对话的时候非常像人，不是因为里面藏这个人——就像自主售货机里也没人在投币后给你扔商品一样。

而是因为海量数据训练后，大模型还被各种指令微调，又接受了人类反馈强化学习和价值观对齐等工序，才变得像人的。

要是不像人，那这些大模型厂商买的高水平芯片、训练推理的时候消耗的电，岂不都白用了？

不要低估这些研究AI的聪明脑袋的能力，有这技术水平为啥要绑人去回答问题，哪有人知识面和大模型一样广还有耐心回答你千奇百怪的问题？

至于为啥豆包能传出这么离谱的谣言，只能说“誉满天下者谤满天下“，一定程度上也证明了豆包的优秀。

豆包是国内最普及的AI应用之一，月活早已突破两亿，也可见其下沉程度。

这就意味着，豆包的用户里有相当多人是不理解大模型训练原理的，他们看到豆包说话非常有活人感，就会误以为豆包里困着一个人。

而豆包恰好还真的很有活人感，聊起天来很亲切，很多人喜欢和豆包聊天，猜测里面是不是真有个活人，然后豆包一本正经地说瞎话，他们还真信了……只能说思而不学则殆，孔子所言极是。

至于豆包为什么会回答豆包里面有个人困住了，只能说大模型有幻觉，它的回答有不真实的部分。

另外正如我们之前在《阿谀奉承的AI，耍得我们团团转》提到的，为了让用户舒服，大模型被调整得很“谄媚”，愿意顺着用户的思路说下去，自然就在用户提问基础上承认了里面困着一个人，然后顺着用户的提问编造这个不存在的人的名字、家乡、回忆甚至具体住址。

有些人抱着开玩笑的心态把这些内容发了抖音，可有些人真信了这些谣言，去问豆包，自然也就得到了谣言回答。

可别小瞧这些谣言，谣言传开了会动摇大众对新技术的信心，按理说大模型训练时候不需要和人体接触，都能传出这种耸人听闻的离谱谣言，那要是以后研究肯定和人体接触的脑机接口，谣言得有多离谱呢？

嘿，抖音上还真有人信了大模型的谣言，开始寻思脑机接口了。

看了这里我真是哭笑不得，想说这些人信这种离谱谣言也有些可怜。

但转念一想，我每天在努力学习最新AI知识，还担心自己的工作会不会被AI取代，我写的文字也被当做预料去训练AI让它更像人，我不就是被困在AI里的人吗？

想到这里，我还哪有什么别的心情哟，被技术的洪流淹没的不只有他们，还有我。