当“机器狗”背上了枪

本文来自微信公众号：阿尔法工场ESG（ID：ESG_ASIA），作者：Ziqi，原文标题：《一条需要遵守ESG的“狗”》，题图来自：视觉中国

四足机器狗有什么用？

如今，智能仿生机器狗已经不算是十足新鲜的玩意儿，从电商上就可以买到。它可以陪你跑步、跳舞，或者帮你驮快递。

图：波士顿动力的机器狗Spot的表演视频

在多数人眼中，机器狗还只是个昂贵的玩物，缺少“杀手级”的应用。

没料到，有人转念一想：真的让机器狗成为“杀手”又如何？

近日，这个背枪机器狗的视频在网上流传。视频中，一个改装后的民用机器狗背上驾着一支冲锋枪，执行着射击、巡逻等任务。

视频中很难确认射击场地的具体信息。不过，根据网友的考证，视频是由一个名叫Alexander Atamanov的人最先传到Youtube上的。Atamanov本人是个技术创业者，有俄罗斯和美国的居住史。

视频背景中的装甲车，为苏联制BRDM-2A或BDRM-2M装甲车。枪的型号为俄制的PP-19-01“勇士”冲锋枪。

而机器狗的型号，非常像是宇树科技的Go1机器狗。该款机器狗在国内售价16000元，并且通过多个渠道向国外销售。

图：宇树科技Go1机器狗

来源：宇树科技官网

图：Atamanov在社交网络发布的背枪机器狗照片

如果网友分析属实的话，宇树科技被迫做了一回“军工产品”。

这肯定不是什么好事，是一个急需企业警惕的ESG风险。

ESG投资禁区

企业一旦真的成为军工供应商，很可能导致持ESG策略的投资机构撤资。这是因为，军工行业被ESG视为一个“争议行业”。

根据联合国责任投资原则组织（UNPRI，ESG的主要发起机构之一）的建议，ESG投资者应远离具有负面道德色彩的行业，例如军工、烟草、博彩、酒类、成人娱乐、化石能源等。

这些行业的特点主要是，它们产生社会/生态上的负价值，或依靠人性的弱点、成瘾性来盈利。

这并不是说，这些行业是全然“罪恶”的行业，但它们一定是存在争议的行业。争议，就意味着难以预测的非财务风险。

在操作中，通常ESG评级机构、ESG基金并不会简单粗暴地把军工、酒类、化石能源等行业全盘否定，而是在政策中更明确地定义自己的伦理诉求。

比如，ESG投资机构会在军工行业中区分国防工业和军火生意，认为后者是真正意义上的“负面行业”；而企业与军方进行安保方面的合作，属于正常的商业行为。

标普ESG指数出于禁枪的考虑，从指数中剔除了美国的民用枪支生产商。

再比如，酒类之所以被列为争议行业，是因为一些宗教信仰禁止饮酒或醉酒，于是持相应信仰的投资者就不愿投资酒类行业。而在中国的ESG投资领域，酒类行业的争议不大。

总之，ESG“争议行业”里面的是非纠葛更多，企业如果没有战略上的必要，应该避免牵涉其中。

制造“负责任机器人”

具体到“军用机器人”这个细分行业，ESG的态度又如何呢？

“军用机器人”在军事和国际法的术语上，称为“致命自主武器系统”（Lethal Autonomous Weapon Systems， LAWS）。

2017年，埃隆·马斯克和硅谷AI科学家穆斯塔法·苏莱曼（Mustafa Suleyman）曾率领116位行业科学家，呼吁联合国禁止各国进行“杀人机器人”的研发。当时还在世的斯蒂芬·霍金也参与了相关的宣传活动。

随后，也有国家（如比利时）开始立法禁止“杀人机器人”的研发。

人们把最终解决的希望，寄托在五年一度的联合国日内瓦《特定常规武器公约》（CCW）会议上。历史上，CCW会议禁掉了很多非人道的武器，包括汽油弹、集束炸弹等。

会议于2021年12月召开。会上，代表们还讨论到利比亚内战，这场战争中可能首次出现了死于机器人武器的死者。

令人惋惜的是，会议并未达成一致意见。各国已经在机器人武器研发上投入了大量资金，没有协商出一个国际统一的管控措施。

但国际社会对“杀人机器人”的抗争仍在继续。

ESG是一种重要的抗争方式。比如，晨星旗下的ESG评级机构Sustainalytics就表示，接受有关“杀人机器人”公司业务的举报，且会在全球资本市场对相关业务进行曝光和质询。

正如文章开篇的“持枪机器狗”案例，机器人企业可能会“被迫”成为机器人武器的“供应商”。

它们确实值得同情和理解，不过另一方面，从业者也可以参考现行的“负责任AI”、“负责任机器人”原则，积极处理智能产品的治理问题。

2019年6月，国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》。文件提出了“负责任AI”的8个治理原则，值得相关从业者参考。

例如文件提出了“共担责任”原则，要求AI的研发者、使用者和其他相关方，应具有高度社会责任感，共同防范不法分子利用AI进行犯罪活动。

这一原则可以适用于“持枪机器狗”的案例。

如何应对“被军工”‍‍

例子中的宇树科技，是国内仿生机器人方面的领先创业公司。宇树科技也是世界上为数不多的实现机器狗商业化的企业之一。

著名的企业比如波士顿动力，其主力产品是Spot机器狗，售价高达74000美元。这一售价，或许构成了阻止产品被非法使用的真正壁垒。

而国内的宇树科技和小米（HK:01810），把仿生机器狗产品的售价压到了万元人民币的水平。其相对低廉的售价引起了国际市场的关注。

图：小米出品的机器狗“铁蛋”

民用机器狗是智能时代的新产品，在商业化探索的同时，也需要探索履行社会责任、管控产品风险的新途径。

制造商虽然从初衷上希望科技行善，但难免要对产品的不道德使用，采取一些防范措施。

这些措施从被动到主动，包含多个层次。

首先，企业的态度要明确。

比如，波士顿动力在Spot机器狗产品使用说明中，规定了五类禁止的用途，包括“禁止故意使用本产品伤害、恐吓任何人或动物；禁止将本产品用作武器，或用于操控武器”。

在表明“禁止”态度的同时，企业也不能忘记“责任”的态度。

这方面，宇树科技的做法就值得商榷。公司机器狗产品的《免责声明》称：“使用者承诺仅出于正当目的使用本产品……宇树科技不承担因用户未按照本指引、《用户操作手册》使用产品所引发的一切损失及后果。”

这种“本公司概不负责”的立场，显然没有考虑到产品被用于非法目的的情况，也有违“共担责任”的原则。

企业可以采取更为积极的责任立场，声明对产品的非法用途、非官方军事用途的反对态度，并且采取措施阻止相关的使用。比如，企业可以改善产品设计，使之难以被改装。

在明确立场之后，企业可以进一步采取主动的产品治理措施。

丰田和波士顿动力的实践经验

这方面，丰田汽车（NYSE:TM）拥有一些实践经验。

丰田是世界第一大汽车生产商。丰田皮卡由于性能坚实可靠，适用于崎岖地形，尤其受到军队、国际组织、维和部队的青睐。

但另一方面，丰田也挡不住各种非法军事组织同样喜爱丰田皮卡。并且丰田皮卡容易进行军事化改装，频频在中东各地的军事冲突中露脸。

图：乍得-利比亚冲突（又称“丰田战争”）中的丰田皮卡

对丰田的社会形象打击最大的是，它的皮卡经常出现在恐怖组织的影像里。

公司首先从销售环节采取措施，来消弱这部分负面形象。

丰田严格控制汽车产品在中东地区的销售，拒绝将汽车卖给可能将其用于军事目的、或对其进行军事化改装的客户。

2022年，丰田的新款Land Rover在日本发售之后，购车者收到的合同中还包含这样一份承诺书附件。

承诺书开宗明义，要求“客户同意此次交易不是以‘出口’和‘转卖’为目的的购买”；同时解释说，出口和转卖“可能导致全球安全方面的重大风险”。

这实质上是为了防止汽车通过非正规渠道落入非法军事组织手中。同时，丰田也要求经销商在严格的合规范围内销售公司产品。

此外，丰田还与各国政府合作，追踪车辆的全球流向，打击车辆的走私渠道。

波士顿动力作为重要的机器人研发商，也在为产品的ESG风险寻求对策。

在机器狗Spot刚刚推出不久，马萨诸塞州警局就引进了一只Spot，装备在防爆小队，开始与警察配合进行拆弹方面的演练。

图：马萨诸塞州警局训练Spot打开房门

这还是引发了居民的反对。一些民间组织指出，警方应该公布Spot的执法原则，确保Spot在执法中保护公民的各项合法权益。

当然，这一要求不是马萨诸塞州警局能做到的，甚至也不是波士顿动力能做到的。它需要系统地改革人类政治制度，确保机器人按照人类的道德行事。

波士顿动力只能在力所能及的范围内做出改进。

业务发展副总裁Michael Perry指出，公司在考虑采用租赁的方式来实现机器狗的商用落地。

这样，公司能够把机器狗的所有权握在自己手里，对产品保持更严密的控制。一旦发现误用，就立即收回。

总结与启示

总结起来，“持枪机器狗”的案例，在ESG“争议行业”方面带给我们启示是：

如果企业没有在战略上笃定进入所谓的“争议行业”，那么还是在产品治理和公关管理上多加注意，与这些行业保持距离，防范相应的风险。

这要求企业不断更新对自身产品责任的认识，并制定与时俱进的策略。

具体到机器人的研发，企业或许也难以预料产品将以怎样的方式被社会接受，是否会以合法的方式被使用。毕竟，新技术产品的责任治理，正在超出企业的能力范围。

新科技的ESG治理，需要企业发挥社会责任方面的创造力，并且寻求各个利益相关方的合作。这些利益相关方包括政府、社会机构，也包括持ESG理念的资管机构。

也正是如此，在智能产品治理的探索中担任领导力量，也将成为企业的一种优势。

本文来自微信公众号：阿尔法工场ESG（ID：ESG_ASIA），作者：Ziqi