两位诺奖女人向杀人机器发起了“攻击”

本文来自：网易智能（ID：smartman163），选自：the Guardian，作者：Melissa Chan，编译：网易智能 (小小)

不断参与战斗的战争机器人，自主决定应该攻击谁的算法，能够识别目标并在瞬间击毙你的人脸识别战斗机器，这一切听起来有点儿像是科幻小说里的情节。  

然而这并不是电影剧本，而是一幅关于未来战争的不祥图景。“杀手机器人”是一系列技术的简称，这些技术让将军们垂涎三尺，但却让和平运动人士对通过数字代理发动战争的后果感到恐惧。  

现在，两名只拿着诺贝尔奖、拥有专业知识和坚定信念的女性站在了这些致命杀手机器人的面前，她们想要禁止这类机器人，而且她们以前也做过类似的事情。  

乔迪·威廉姆斯(Jody Williams)因领导全球禁止杀伤性地雷的长期努力而获得诺贝尔奖，玛丽·韦勒姆（Mary Wareham）也是那次运动的重要支持者。韦勒姆回忆说：“我们当时在诺贝尔和平奖颁奖典礼上，我对乔迪说，我们现在该怎么办?”  

没多久，她们就将目标对准了致命的自主武器系统，简称为Laws。

威廉姆斯和韦勒姆预计，她们的斗争会更加艰难。威廉姆斯表示:“相对而言，地雷只代表着微不足道的利益，而制造商可以通过销售人工智能（AI）增强武器赚取数十亿美元利润。”  

事实上，AI已经通过警务、医疗、农业和社交工作迅速传播，但AI专家警告称，军队将是下一个目标。最大的问题是：怎样才能阻止军队部署升级后的无人机机器人来搜索、识别并消灭某个村子里的所有人？或者派无人机去执行身份识别任务，然后暗杀某个人？  

武器制造商们正搭乘着与其他行业相同的AI浪潮，在一场平静而激烈的军备竞赛中，这些军方正密切关注着，并为某些最尖端的试验提供资金支持。  

对有些人来说，AI的优势显而易见：杀手机器人永远不会像人类士兵那样疲劳，它们可能会在战场上待上几个月，永远不会生气或寻求报复，也决不会违抗军官的命令，这些机器人会把不完美的人从等式中去掉，而算法将决定杀死谁。

以色列的Guardium无人驾驶安全车可以自行做出决定，并可执行边境巡逻任务

但也有其他军事专家对此表达了担忧。

前美国陆军突击队员、撰写了美国国防部有关杀人机器人最早政策声明的保罗·沙雷(Paul Scharre)表示:“致命自主武器不仅存在法律和伦理方面的担忧，也存在实际挑战，人类如何控制自主武器？如果系统出了小故障或者有人入侵了怎么办?”  

对威廉姆斯来说，这些机器正是冷血屠夫的典型代表，有了杀人机器，第三次世界大战几乎将不允许人类出现在战场上，在任何21世纪的冲突中，西部前线都不会再有“圣诞休战”的场景出现。威廉姆斯愤怒地说：“这是男人对新武器的强硬态度，他们这么做只是因为他们能够去做，还因为他们想看看它能走向何方。”  

目前，以色列已经拥有许多先进的机器，包括在加沙边境巡逻的武装地面机器人，以及能盘旋在空中直到找到目标的导弹“哈比”(Harpy)，以摧毁敌方雷达为卖点的武器，没有任何技术壁垒可以阻止该行业的工程师开发出类似武器，将来这些武器很可能也会攻击人类。  

此外，在美国加州中部的山谷里，美国军方正在进行无人机群实验，俄罗斯也已经宣布，该国希望组建完整的杀手机器人营。

然而，没有任何法律监督这种AI军备竞赛，各国处于各自为战的混乱状态。  

不过令人欣慰的是，科学家们已经拉响了警报，250多家研究和学术机构以及该领域的3000多名知名人士呼吁禁止杀人机器人，但除了请愿之外，活动人士认为阻止这项技术发展的最佳途径是制定国际条约。  

这也是阻止机器人杀手运动所采取的策略，来自54个国家的100多个组织加入了该联盟，目标是到2021年达成协议，威廉姆斯是个理想主义者，但她并不天真，自抗议越南战争以来，她始终在与军工企业进行斗争，怀疑论者曾认为禁止地雷是不可能的。

3月21日，“阻止杀人机器人”运动的抗议者在柏林举行抗议活动

但威廉姆斯表示:“如果你不采取任何措施阻止它，最终糟糕的后果可能是不可避免的，当他们向我们灌输‘这是不可避免的’的时候，他们实际上是想要剥夺你的权力。”  

在“禁止地雷”运动中，威廉姆斯等人曾游说联合国通过一项协议，当这一进程停滞时，他们在联合国框架之外进行谈判，并开始一个接一个地把各国召集起来，直到1997年在渥太华达成了一项历史性协议，120多个国家承诺清除杀伤性地雷。  

如今，阻止杀手机器人运动也遵循着类似的路线图，联合国在日内瓦举行了几轮会谈，包括三月底举行的最新会议，但阻止杀手机器人运动已经对这一进程失去了信心，现在正专注于单独采取行动。  

威廉姆斯和韦勒姆希望德国能做出表率，该国在今年年初加入了联合国安理会，其外交部长Heiko Maas很关心这个问题，他最近称杀手机器人“无异于对人类自身的攻击”。  

在幕后，德国政府已经与其他国家接触，争取获得更多进展，至少德国的许多政界人士认识到，德国有机会成为第一个禁止杀人机器人的国家，如果它这样做了，其他欧洲国家也会效仿。  

但德国在这一问题上的行动有时也充满不确定性，尤其是在联合国的讨论中，在某种程度上，为了促使德国采取行动，“阻止杀手机器人”运动成员上个月在柏林聚集起来，争取公众的支持。  

站在该组织的“友好”机器人吉祥物大卫·海汉姆（David Wreckham）前，威廉姆斯敦促她前面的人群联系各自认识的政治人物，并传播这个消息。

抵制杀人机器人的拥护者都在期待这两位诺奖女性的再次成功。

本文来自：网易智能（ID：smartman163），选自：the Guardian，作者：Melissa Chan，编译：网易智能 (小小)