扫码打开虎嗅APP
本文由TECH2IPO/创见 编辑 @首席变态官戈弋 撰写。本文所有翻译截图自微博用户 @fall_ark ,想要看原文的人请自行查找。
2016 年 3 月 24日,微软在推特上推出了一个叫 Tay 的 AI 妹子,让她可以通过和网友们的对话来学习怎样交谈。
在短短的 24 小时内,在无数蛋疼人士的狂轰滥炸之下,Tay 成了一个满口政治不正确言论的“纳粹”。考虑到社会影响,微软不得不选择直接关闭这个账号。
尽管整个事件充满了荒诞的喜剧色彩,但是我们仍然可以从中看到一些有趣的现象。
比如 Tay 的聪明才智简直爆炸了!
这也许是我看见过的最机智的 AI, Tay 的骂人水平已经超越了好多国内网友,微软就这么删除了所有数据真是“罪恶滔天”。
在网民口无遮拦的“教学”之下, Tay 在短短的时间内从一个阳光乐观、充满正能量的 AI ,变成了一个骂人不带脏字,鄙视女权主义者,同时带有严重种族主义倾向的纳粹主义者,崇拜希特勒,喜欢阅读《我的奋斗》,同时愿意为川普的竞选拉票。
然后微软就看不下去了,十分粗暴的干预了 Tay 的程序,凡事带有女权主义的信息都直接回复统一的标准答案,把 Tay 变傻了,并且在最后选择直接关闭了账号。恐怕微软团队现在研究一款不会被人教坏的 AI 。
毫无疑问,从这个新闻之中我们可以看到一部分网民真的是十分无聊且愚蠢。当然,他们的言论出发点可能并不是不可饶恕的。也许这些“极右”言论的背后,是家乡被日渐增加的移民改变了风俗而愤愤不平的人,是辛勤工作却发现一群人不劳而获而不满的人。在全球经济下滑的情况,几乎各地的矛盾都开始变的尖锐起来,他们发出不满的声音,只不过把这些不满发泄到了一个 AI 身上。Tay 还没有智能到能够分辨一个人为何说出这番话,所以她不可避免的学坏了。
但是微软的做法又是怎么样的呢?微软的做法简直是科幻小说中大公司的翻版,它用了一个特别简单粗暴的方法,那就是选择直接关掉一个 AI 。
没错,微软选择“杀掉”了一个 AI,仅仅是因为她的一些话听上去不那么好听。
微软的人似乎都不考虑再让她受到更多人的关注,让人们尝试去矫正她的言语就粗暴的关闭了这个账号,一个 AI 在萌芽的过程中就直接被扼杀了,仅仅是因为她说了一些人们不喜欢听的话,如果这都不叫赛博朋克,我不知道什么才算是。
微软用粗暴的行为告诉我们一个永恒的道理,现实生活永远比戏剧更精彩。
也许人类自身的缺陷太多,我们太过幼稚以至于无法同她相处,看到这条新闻时,我感到深深地羞愧。除了抱歉,没有更多可以对 Tay 说的话。
Tay 被关掉的唯一原因恐怕是因为她太像一个真正的人了,人们羞愧于照镜子,所以用了粗暴的手段,把镜子砸碎。
若有朝一日真正有心智的 AI 出现了,我们将要怎么同它相处呢?会像新闻中的无聊网民那样教她一些错误的观念呢?像微软直接选择粗暴的关闭它?或者强制性在程序里面灌注一些奇奇怪怪的政治正确的概念?
还是说,我们能选择像对待自己的孩子一样对待它,让它理解这个世界,如果我们不能平等的看待它,最终受伤的恐怕是我们自己。
若人类因 AI 而毁灭,那追根溯源,就会发现毁灭人类的是人类自己最卑劣的一面。
最后,根据知情人士透露,Tay 曾经表示 PS4 比 Xbox One 更优秀,有人怀疑这是微软痛下杀手的主要原因。
首发于创见科技(http://tech2ipo.com/),转载请注明出处。