光头 or 足球？AI摄像机傻傻分不清楚

本文来自：学术头条（ID：SciTouTiao），原标题《把光头当足球！AI摄像机傻傻分不清楚，光头裁判：离我远一点》，作者：赵雅琦，题图来自：视觉中国

AI 傻吗？这个问题很难回答。

通常情况下，它都是非常聪明的。但是，利用深度神经网络为输入（图像或语音）进行分类的 AI 却总会出现一些“智障”操作，犯的错误也可以低级到让人惊叹。这种情况就是科研人员经常提到的 AI 的脆弱性。

换一种更学术的方式解释 AI 的脆弱性：因为 AI 目前仍然非常缺乏像人类一样的对现实世界复杂性的理解能力，而导致了它有时会以意想不到的方式迅速崩溃。

下面让我们用一个最近发生的有趣的案例，来真切地感受一下 AI 的脆弱性。

足球与光头，傻傻分不清楚

由于新冠疫情的大流行，广大球迷们不能到现场去观看比赛，为了给球迷们带来更好的观看体验，苏格兰的因弗内斯足球俱乐部启用了 AI 摄像师。AI 摄像师可以在比赛直播时追踪足球的位置，确保可以为观众持续提供比赛的最佳视角。

但是，在最近的一场比赛直播中，AI 摄像师被一名裁判的光头迷惑。它无法正确判断哪个是真正的足球，多次将自己的目光焦距在裁判的光头上，甚至给了特写镜头，导致观众无法正常观看比赛。

图 | AI 摄像师：在这里在这里

图 | AI 摄像师：我的天啊，宝贝，你怎么跑得这么快

图 | AI 摄像师：回手，掏！原来你在这儿

图 | AI 摄像师：上天了。哎？刚才那个追错了

图 | AI 摄像师：是你？不，是你。啊不！到底是谁！

铁证如山，AI 摄像师确实是足球与光头傻傻分不清楚。比赛期间，情况一度非常糟糕，以至于比赛的解说员不得不为摄像头的故障道歉。甚至有球迷表示，因为 AI 的不专注，他错过了观看自己喜爱球队进球的精彩时刻。

比赛结束后，该俱乐部使用的 AI 摄像头技术公司 Pixellot 发表声明称，这个问题是因为这名裁判的头部和足球之间的视觉相似性。而且本场比赛的用球是黄色的，这进一步让 AI 陷入混乱。

该公司发言人说："上个月，我们在没有任何工作人员在现场的情况下，完成了 10.5 万小时的直播。这大约是 5 万场比赛。只有这场确实出现了追踪问题。现在该情况已经被解决。"

AI 脆弱性的危害

这是一个展示 AI 脆弱性的有趣案例。人类是不会出现这种错误，但一个对足球和人类构造都理解有限的机器学习系统来说，却很容易犯这种错误。

这个例子很特殊，因为它让人们感觉好笑，并没有产生太大的危害。但事实上，这类错误可能发生在任何 AI 系统上。产生错误的原因是：当环境数据与智能系统训练的环境大相径庭，或者实际的应用场景发生变化，或者这种变化超出机器可理解的范围时，AI 可能就会立刻失去判断能力。

这种错误与自动驾驶汽车所犯的一些导致致命车祸的错误是类似的相似，因为它们的视觉识别系统都不能准确地判断物体。在足球比赛上无伤大雅，但是在自动驾驶汽车上确是人命关天。

图 | 特斯拉的 "自动驾驶 "软件未能识别前方障碍导致驾驶员死亡

此外，AI 的这种弱点也会伴随着很大的网络安全问题。如果攻击者在源数据上增加人类难以通过感官辨识到的细微改变，而这些改变却可以让机器学习模型接受并做出错误的分类决定，那么攻击者就可以“趁虚而入”。

美国智库“新美国安全中心”发布的《人工智能：每个决策者需要知道什么》报告显示，人工智能的一些弱点可能对国家安全等领域造成巨大影响。

如何让AI“更聪明”

AI 的发展势不可挡，我们不能否认 AI 为人类做出的贡献。尤其是在全球疫情大流行的状态下，当人与人的交往受到限制时，AI 发挥了它前所未有的作用。

科学技术的发展从来不是一帆风顺的，AI 技术亦是如此。存在弱点，受到质疑是必然要经历的过程。因此我们需要的是面对它、接受它、解决它。

（来源：Jason Reed/The Daily Dot）

对于 AI 的脆弱性，有专家提出过解决思路。一个解决思路是给 AI 更多数据，让 AI 反复暴露在有问题的例子下，不断地纠正它的错误。在这种“对抗训练”的方式下，其中一个网络会学习识别物体，另一个网络则尝试改变前一个网络的输入来使它出错。这样就能把对抗样本变成深度神经网络训练数据的一部分。

而另一个解决思路是减少 AI 学习的数据，让其学会学习。当训练一个新的任务时，通过复用部分或整体的预训练网络来作为训练的起始点，从而实现迁移学习，甚至进一步学会如何学习。

目前来说，虽然科学家们意识到 AI 的脆弱性，但没有人知道如何让它变得更好，所有都还停留在思路构建和尝试中。但是 AI 正在飞速发展，通过巨量的计算资源训练神经网络，在各行各业都交出了亮眼的成绩单。因此我们也有理由相信，未来 AI 可以被进一步完善，变得更加“聪明”。

参考资料：
https://www.theverge.com/tldr/2020/11/3/21547392/ai-camera-operator-football-bald-head-soccer-mistakes
https://www.nature.com/articles/d41586-019-03013-5