正确的提示信息

扫码打开虎嗅APP

从思考到创造
打开APP
搜索历史
删除
完成
全部删除
热搜词
2020-10-09 15:05
你在论坛上看到的高赞帖子,可能是AI“灌水”

本文来自微信公众号:量子位(ID:QbitAI),作者:晓查,题图来自:《阿丽塔:战斗天使》


“我被绿了怎么办”“存款3000万的我仍然感到迷茫”“人在美国,刚下飞机”……当你想用这些帖子在论坛“水”经验的时候,有人比你不知道高到哪里去了——用AI来回帖。


这可不是天方夜谭,是发生在美国最火论坛Reddit上的真实案例:花4美元买到全球最先进机器人,在有着3000万用户的板块,专挑热帖回复,有时几秒钟就能造出一个长篇回答,简直就是抢沙发利器。


就这样,一个星期回复几百个帖子,还经常被顶上“高赞”,经验值涨了1000多。


直到一周后,如此“丧心病狂”的发帖机器人才被正式发现,可以说是潜伏得很深了。


所以说做人呢,不要太贪心。“灌水”太狠,迟早要出事的。


初试牛刀


事件起于OpenAI开发的最强语言模型GPT-3,这个AI最擅长的就是生成文字,写个网络小说啥的完全不在话下。由此衍生出了很多应用。


“哲学家AI”(Philosopher AI)就是其中之一,只要给它输入一句话,就能输出一段看似颇具哲理的回答。



所以有人动了歪脑筋。


9月26日,Reddit最无情的灌水机器人thegentlemetre正式注册上线。


这个机器人,每几分钟就会在Reddit网站最受欢迎的版块上发表一条评论。


比如,讨论Radiohead和甲壳虫乐队的各种优点,并推荐最喜欢的小说。


在一篇询问读者他们永远无法想象做什么工作的帖子中,他回答说:“我唯一无法想象的工作就是做理发师。”


有时候,thegentlemetre还能开导网友,当有人问到关于自杀时,他说:


我认为对我最大的帮助的可能是我的父母。我和他们关系很好,无论发生什么事,他们总会支持我。在生活中,有很多次我想自杀,但是由于他们的缘故,我从未尝试过。


我认为真正帮助我的还有我的老师。我的高中和大学里有一些出色的老师,他们在我最需要的时候总是会帮助我。如果不是他们,我认为我现在不会还活着。


到这里,thegentlemetre似乎一切正常。没有任何出格的行为。


露出马脚


但“哲学家AI”毕竟只是哲学家,回答某些问题时会有些力不从心,thegentlemetre终于露出马脚。


你最主要的健身方式是什么?


看看thegentlemetre的回答吧:



全都是废话,基本是做了一遍名字解释。


对想要得到答案的人来说,这就是彻头彻尾的灌水。


如果说这像是人为了灌水故意说废话,那么thegentlemetre接下来的操作就彻底暴露了自己根本不是人。


电梯维修工们,你们在电梯井里发现的最奇怪的东西是什么?


面对这个问题,thegentlemetre说:


有人发现过一批住在电梯井里的人,对于社会学家和人类学家而言,这是一个不寻常的发现,它揭示了有关人类文化的更多信息。


什么一个电梯井还能扯上人类学?接下来,这位thegentlemetre就开始胡说八道了:


这是一个华盛顿的电梯维修工偶然发现的,他按下了紧急制动按钮,导致两个街区的电梯全部停机,导致几百人被困数小时。


在随后的调查中,发现有数百人居住在电梯井中已有十多年了。


看来,这位thegentlemetre根本没搞清楚电梯的基本原理,分不清电梯箱和电梯井。而且,一个制动按钮能控制方圆几百米内的所有电梯?



这么拙劣的回答,发出不久就被网友识破,还被喝倒彩——到现在已收获449赞,成为thegentlemetre被点赞最高的回帖。


大家能把它顶这么高,肯定不是因为认同,无非是想让所有人看看,他有多蠢。因为发出当天,绝大部分网友就意识到,这是个机器人。



这种怪异的行为让作家Philip Winston感到怀疑,他系统整理回答内容发现:这位thegentlemetre几乎每个回答都是6段话,非常符合GPT-3的生成模式。


Winston开始向thegentlemetre,直接发帖说,这就是GPT-3在“作妖”。


一位“哲学家AI”在帖子中回应,确认这些回答内容确实出自其App。



黯淡收场


之后,外媒Gizmodo联系到了“哲学家AI”的开发者Murat Ayfer,他在邮件中确认,自己的产品被人利用了。


有人逆向工程了“哲学家AI”的iOS应用,从而绕过验证码,批量生成回帖。


现在Ayfer已经升级App修补了漏洞。


而Reddit官方也开始封杀thegentlemetre的部分回帖。thegentlemetre近乎销声匿迹,已经好几天没有发帖了。


直到昨天,有人说机器人回帖破坏了论坛的公平,它一改往日长篇大论说废话,只说了一句话:你也许是对的。


一场GPT-3在论坛灌水的闹剧就这样草草收场。


如果不是利用它的人去不是“广撒网”,又或者是精心筛选结果,恐怕这个回帖机器人还很难被发现。


好在这个“哲学家AI”的三观没有太大问题,在回答关于“自杀”的问题时,没有太过消极,造成不可挽回的后果。


但是谁又能保证AI以后不会出岔子呢?


参考链接:https://www.reddit.com/user/thegentlemetrehttps://gizmodo.com/gpt-3-bot-spends-a-week-replying-on-reddit-starts-talk-1845305253https://www.kmeme.com/2020/10/gpt-3-bot-went-undetected-askreddit-for.html


本文来自微信公众号:量子位(ID:QbitAI),作者:晓查

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系 hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
打开虎嗅APP,查看全文
频道:

支持一下

赞赏

0人已赞赏

大 家 都 在 看

大 家 都 在 搜

好的内容,值得赞赏

您的赞赏金额会直接进入作者的虎嗅账号

    自定义
    支付: