人和AI合作，到底有什么危险？

“科技是懒人推动的！”

相信所有人在“摸鱼”或者“躺平”的时候，都曾经用这句话为自己找借口。

从蒸汽机的工业革命，到计算机的数字革命，技术的进步确实让人类在某些方面，越来越有躺平的资本。

作为最有潜力成为下一代平台的 AI 技术，会让人类变得“更懒”吗？

好像确实是的，但这并不是个好消息。

根据发表在《机器人与人工智能前沿》杂志上的一项最新研究显示，当人类与 AI 和机器合作时，真的会“摸鱼偷懒”。

该研究的第一作者 Cymek 称：“团队合作既可以是一种祝福，也可以是一种诅咒。”

所以，在 AI 时代，人类最大的危机不是被机器取代，而是“懒到退化”？

一、机器助手，让人类“放松警惕”

当有了机器这样一个有力帮手时，会让人类变得比较“心大”。

德国柏林工业大学的研究人员向 42 名参与者提供了模糊的电路板图像，要求他们检查是否有缺陷。其中一半的参与者被告知，他们要处理的电路板已由一台名为“熊猫”的机器人检查过，并已标记出缺陷。

实验：模拟电路板质量控制的视觉搜索任务 ｜《机器人与人工智能前沿》研究

实际上，机器人“熊猫”在实验过程中检测到了 94.8% 的缺陷。所有参与者都看到了相同的 320 张扫描电路板图像，当研究人员仔细查看参与者的错误率时，他们发现，与“熊猫”一起工作的参与者，在任务后期捕捉到的缺陷较少，因为他们已经看到“熊猫”成功地标记了许多缺陷。

两组参与者几乎检查了整个电路板表面，花时间搜索，自我评价努力程度较高。结果是，与机器人合作的参与者平均发现了 3.3 个缺陷，独自完成任务的人平均发现了 4.23 个缺陷。

两组参与者检测到的缺陷的平均值和标准偏差 ｜《机器人与人工智能前沿》研究

研究称：“这表明参与者在与机器人伙伴合作时，可能不太专心地检查电路板。我们研究的参与者似乎保持了检查电路板的努力，但似乎检查是在较少的脑力劳动和对采样信息的关注下进行的。”

这意味着，如果他们被告知机器人已经检查了一部分，并体验到机器人的可靠后，他们就会发现更少的缺陷。在潜意识中，他们假设“熊猫”不太会漏掉缺陷，产生“社会惰化”效应。

这项研究的影响对于依赖严格的质量控制的行业尤为重要。作者警告称，甚至是短时间内对人类注意力的放松，可能是由于过度依赖机器人的准确性，都可能危及安全。

研究人员 Onnasch 提到：“在更长的轮班时间内，当任务变得例行化，并且工作环境提供的性能监控和反馈较少时，动力的丧失往往更大。在制造业普遍存在，特别是在双重检查常见的与安全相关的领域，这可能对工作结果产生负面影响。”

当然，研究者的测试也有一些限制。比如，样本其实还不够大，而且在实验室中难以模拟“社会惰化”，因为参与者知道他们受到监视。Cymek 解释道：“主要的限制是实验室环境。要了解人机互动中动力丧失问题的严重性，我们需要走出实验室，在实际工作环境中与经验丰富的工人一起测试我们的假设，他们通常与机器人一起工作。”

二、“人机合作危机”

事实上，在实验室之外，人机合作导致的“堕化”早已经在现实世界中出现。

在自动驾驶领域，有一个与“社会惰化”相似的现象，叫做“自动化自满（Automation complacency）”，典型是由于有了自动化辅助而分心。

2018 年 3 月，在美国亚利桑那州，配有安全员的Uber 自动驾驶汽车撞死一位骑自行车的人。警方的分析发现，如果安全员一直看着道路，安全员本可以在受害者前方 12.8 米处停下来，并避免悲剧。

特斯拉常常是美国媒体和监管机构重点关注的目标，原因常常是与自动驾驶有关的事故。一个典型的场景是，特斯拉司机在使用自动驾驶功能时睡觉，或玩游戏，并卷入致命车祸。

在当下的 AI 狂潮中，机器取代人类的预言越来越接近现实。一方认为机器会服务于人类，另一方则认为人类会不小心制造出邪恶之物。

在医疗领域，IBM 研发的 AI 系统“Doctor Watson”曾向癌症患者给出过不安全的用药建议。今年有论文指出，生成式 AI 已经可以通过美国医疗许可考试的三个部分。一个相似的迁移假设是，如果未来由 AI 对人类进行诊治，然后人类医生进行把关，人类医生是否又会出现“社会惰化”和“自动化自满”问题？

前述研究的作者指出：“将人类和机器人的能力结合显然提供了许多机会，但我们也应该考虑，人机团队中可能发生的意外群体效应。当人类和机器人在一项任务上工作时，这可能会导致人类团队伙伴的动力损失，并使社交惰化等影响更有可能发生。”

还有人担心，AI 可能会影响人类思维和创造力，并削弱人际关系，从整个现实中分心。硅谷的生成式 AI 明星初创公司 Inflection 推出的聊天机器人 Pi，被设计成一位友善、支持的伴侣。创始人表示，Pi 是帮助人们应对孤独的工具，可以作为一个倾诉的对象。批评者则认为，这会让人逃离现实，而不是与真实的人类互动。

现在，人与工具的关系已经进化到一个新的层次。所有工具的诞生，其实都让人类变懒了，如扫地机让人免于清扫房屋，手机让人不用再记下电话号码。

但 AI 技术和此前的技术区别在于，将更多的思考和选择工作，都交给了 AI，而后者基本上是一个黑箱，这更像一种思考自主权的让渡。当人将开车决策完全交给自动驾驶，将医疗诊断都交由 AI 系统，潜在的代价与记不住电话号码的代价可能完全不同。

开发了历史上第一个聊天机器人的计算机科学家约瑟夫·维森鲍姆，曾将科学比喻成“一种上瘾的药物”，并由于服用剂量越来越大而成为“一种慢性毒药”，如将计算机引入一些复杂的人类活动，可能会没有回头路可走。

当人把思考、判断的权力交给机器，作为一种“参考”，“社会惰化”和“自动化自满”的魔鬼或许也潜伏其中，并可能随任务的重复成为一种慢性毒药。

本文来自微信公众号：极客公园 （ID：geekpark），作者：芯芯，编辑：靖宇