AI的终极目标，是一个怎样的系统？

本文来自微信公众号：中国工程院院刊 （ID：CAE-Engineering），选自中国工程院院刊《Engineering》2022年第5期，作者：陈杰（控制理论与控制工程专家、中国工程院院士）、孙健、王钢，原文标题：《从无人系统到自主智能无人系统》，题图来自：视觉中国

一、引言

人工智能（AI）是一个快速发展的技术领域，“它将使惰性物体充满活力，就像一个多世纪前的电力一样。通过人工智能，我们将对过去电气化的产品重新认知”。人工智能的进步正在不断推动机器的发展，使机器能够做很多前沿的事情。

近年来，商业投资者、国防战略家和政策制定者对人工智能的研究及其发展和部署给予了越来越多的关注。2017年7月20日，中国政府发布了一项发展人工智能技术的战略——《新一代人工智能发展规划》，提出了政策选项，并划定了到2030年使中国成为世界人工智能领导者的总体目标。

二、人工智能简史和相关概念

现代人工智能的起源可以追溯到很久以前，古典哲学家试图将人类的思维过程描述为一个符号系统。直到1956年夏天举行的达特茅斯会议上，人工智能领域作为一门独立的学科才初步成立，当时约翰·麦卡锡创造了“人工智能”（Artificial Intelligence）一词，以区别于传统的控制论。

控制论（Cybernetics）是诺伯特·维纳创造的一个术语，指的是他对自主（无人）系统的设想。人工智能的目标是建立能够在做出决策时进行学习和适应的系统，也就是说，系统具有一定程度的自主性（即任务和运动规划的能力）以及智能性（即决策和推理的能力）。虽然人工智能的流行程度一直在变化，但最近对人工智能的兴趣的爆发式增长始于2006年左右。它的出现是由于“天时、地利、人和”三个有利因素的融合：

①大量的、非结构化的数据集可用于训练强大的机器学习和人工智能模型；

②软件和硬件的快速发展，如深度学习算法和图形处理器（GPU）等计算平台；

③云商业模式的出现。这种爆炸性增长极大地推动了弱人工智能的发展，弱人工智能指的是能够解决特定类别问题的算法或计算机软件，如文档分类、物体检测、游戏、疾病诊断和自主导航。

然而，许多人认为，目前所有的人工智能系统（技术）都属于弱人工智能的范畴，因此与强人工智能仍有一定差距。

然而，人工智能还没有公认的定义。这主要是由于不同领域的专业人士对人工智能研究采取了不同的方法。现有的人工智能定义可以粗略地归纳为四组（表1）。这四个定义规定了人工通用智能（AGI）类别中可能追求的四个目标，人工通用智能指能够在各种任务中实现人类水平的自主性和智能的系统。

表1　历史上人工智能定义的分类法 

三、自主智能（无人）系统

无人系统被定义为一种能够在无人操作的情况下发挥其力量执行指定任务的机电系统。当代的系统，如多机器人系统，无人驾驶的空中、地面和海上交通工具（UAV、UGV和UMV），移动、边缘和云计算系统，以及金融、制造和电力系统，越来越具有分散性、泛在性和互连性的特点，也就是说，它们是由自主实体组成的系统。由于其物理组件、网络基础设施和社会环境的无缝集成和动态性质，这种工程系统必须以越来越高的自主性和智能水平运行，以做出决策并在特定环境中运行。

无人机最初是在1917年被美国军方使用的。当时美国海军委托设计了用于对抗德国潜艇的侦察机，该机在1918年3月6日实现首次成功飞行之前经历了多次失败，这也是无人机的首次飞行。从那时起，无人系统迅速发展，大致可分为三个阶段：从基于编程的无人系统到自动无人系统，智能无人系统，以及自主智能无人系统。

第一阶段其能力是有限的，即系统只能按照先验的程序工作，不能适应环境的任何变化。第二阶段处于高级水平，系统具有一定的感知、决策和控制能力，可以根据环境变化进行调整。在最后阶段，无人系统具有高度的自主性和智能性，在许多任务上赶上甚至超过人类。

自主智能无人系统（AIS）是一个新兴的跨学科领域，它是依靠大数据和人工智能（以及其他科学技术的进步）来创造具有集成任务和运动规划以及决策和推理能力的无人系统。

自主智能无人系统可以在没有或有限的人工参与的情况下完成通用任务，数字设计（人工智能、大数据、控制等）、机器人技术以及构造环境的融合使其成为可能。典型自主智能无人系统包括自动驾驶汽车、智能制造机器人以及用于陪伴或安慰的机器人。相对于普通的无人平台（可能是基于规则的，或由人类或其他机器远程控制），它具有独特的特征：（越来越高的）自主性、智能性和协作性。

首先，自主智能无人系统由自主组件组装而成，这些组件的行为可能是复杂和不稳定的，也就是说，这些组件可能突然变得不可用，完全崩溃，或者改变其行为。

其次，自主智能无人系统也有足够的智能性，也就是说，能够对大量的知识和经验进行推理，以检测出所述的错误行为，能够适应各种场景，并通过做明智的决定来恢复其原始功能。此外，当从事复杂和具有挑战性的任务时，它可以寻求密切协调和相互合作的方法，以发展高水平的集体行为。因此，自主智能无人系统是人工智能研究的最终目标，自主智能无人系统研究提供了一条通往人工通用智能的有前景的道路。

四、自主智能无人系统的代表性应用

自主智能无人系统正迅速在许多不同的领域进行应用，从商业、工业和医疗部门到物理安全、国防以及太空探索。2016年，作为谷歌DeepMind的一部分，计算机程序AlphaGo首次在围棋比赛中击败了人类职业棋手，这引发了一系列具有挑战性的科学和工程领域的重大突破。下文中列举了一些有代表性的当代自主智能无人系统的例子。

（一）自动驾驶

自动驾驶是一个非常受欢迎的研究领域，它探索的是自动驾驶车辆的自主性和智能性的根源。在2016—2021年的五年中，仅电气和电子工程师协会（IEEE）就发表了43000多篇关于自动驾驶主题的会议论文和8000多篇期刊（包括杂志）论文。

自动驾驶汽车目前在操作上并不完美，2018年在美国亚利桑那州坦佩市发生的自动驾驶汽车事故就证明了这一点，一名行人被一辆由自主算法控制的运动型多功能车撞死，而司机却无法阻止这场车祸。

另外，自主车辆系统在性能上与人类或动物的视觉系统相比仍有很大差距。目前仍然需要创新的解决方案，如生物启发的视觉传感、多智能体协作感知和模仿生物系统工作原理的控制能力。据预测，到2030年，在实现更高水平的机器人自主性和车辆智能之后，自动驾驶将变得足够可靠和安全，可以取代大部分人类驾驶。

（二）医学和保健

新型冠状病毒肺炎（COVID-19）的暴发已经成为一种全球大流行病。在撰写本报告时，全球COVID-19的确诊病例总数已超过1.13亿。不幸的是，根据世界卫生组织的数据，这一数字仍在以每天约40万例的速度增长，对抗COVID-19需要全球的努力。

自主智能无人系统可以成为解决方案的一部分，它显示出巨大的潜力，可用于消毒、诊断、监测、协助大规模筛查和手术、运送药物和重要物资，以及为老龄化社会进行老年人康复训练。机器人系统可以在大规模的筛查和手术中发挥重要作用。

机器人系统至少可以在四个领域支持医疗系统和捍卫公共健康：临床护理（如远程呈现、远程医疗和净化）、后勤（如医疗废物的处理、储存和运输）、侦察（如监测和管理自愿隔离的遵守情况）和维护（如加强隔离期间工作和社会经济功能的连续性）。

人们还注意到，中国已经在积极探索其中的许多用途，尽管目前仅限于有限的地区，而且其中大部分的应用只是作为概念的证明。这些机器人技术的每个应用领域都需要更多的研究。未来的机会在于开发能够对患者进行分类、评估、监测、治疗以及在安全距离内为患者提供陪伴和安慰的医疗自主智能无人系统。

（三）国家安全和国防

除了广泛的民事应用外，自主智能无人系统技术已经应用到军事行动中。早在2003年，美国陆军与国防部高级研究计划局（DARPA）联合启动了未来战斗系统计划，这是美国陆军历史上最大的计划收购项目。其目标是设计一个完整的旅，装备有数百辆载人和无人驾驶车辆，这些车辆与一个超高速和灵活的战场网络相连，从而能够实现前所未有的互操作性和战术协调。

2004年，加拿大国防研究与发展部启动了自主智能无人系统计划，公布了其战略计划，以提高军用车辆和系统的自主性和智能化。所针对的关键挑战包括自主智能无人系统通过对其非结构化环境的理解来执行复杂任务的能力，并在自主实体之间学习、适应和交换信息的能力，以及实现集体智能和增强系统有效性。

最近，DARPA的“拒止环境协同作战”（CODE）计划也试图通过提高自主性以及平台间的协作来扩大无人机的任务能力。美国军方已经通过Project Maven计划将自主智能无人系统整合到战斗中，该计划利用（并展示了）人工智能算法来识别伊拉克和叙利亚的相关目标。

（四）深空探索

作为中国月球探测计划的一部分，中国的嫦娥五号在2020年12月17日成功完成了将月球样本带回地球的任务，这是近50年来首次收集此类样本。此次任务共采集了两个样本：一个来自月球表面；另一个来自地下约2 m。两者都被装入月球上升器，然后起飞，与任务的轨道器（即地球返回器）连接起来。这次联合被认为是两个机器人航天器首次在地球轨道之外完成了完全自主的对接。

同样，美国国家航空航天局（NASA）的毅力号探测器，被赞誉为有史以来技术最先进的机器人系统“地质学家”，于2021年2月18日在火星上安全无误地着陆，这是由于其先进的着陆系统能够快速、准确和自主地理解当地环境，并在进入、下降和着陆（EDL）阶段（又称“恐怖七分钟”）调整其轨迹。

对太阳系甚至更远地方的“空间探索”的愿景，需要对协作自主性和航天器智能化提出更高的要求，以使未来的深空探索者具备检测和应对意外条件的能力，识别和描述未预见的感兴趣的特征，以及解释数据内容及重写和修改观测计划。

五、展望

尽管取得了这些令人振奋的进展和成功的应用，但自主智能无人系统研究仍然面临许多基本挑战，其中最主要的是完全自主和机器人通用智能的挑战。到目前为止，自主智能无人系统研究和努力主要集中在单个机器人系统（即单一智能体），而对机器人群的研究和理解较少，对机器人群（如异质代理群或多层系统）的研究更少。

如图1所示，在这些基础上，未来的发展和机会在于探索三个层次的自主性和智能化的根源。我们在下文中概述了努力实现自主智能无人系统愿景的过程中最突出的一些关键挑战，特别是那些可能在未来十年中导致重大科学进步的挑战。

图1. 自主智能无人系统的未来研究趋势。

对于智能体（如人工体现系统或机器人大脑）来说，需要研究的基本课题包括了解在智能体使用其传感器和效应器时，在与非结构化环境进行自主重复互动期间，什么样的内在发展程序支配着智能体的认知能力（如视觉、听觉、牵引力、语言、规划、决策和运动执行）的发展，以及这一过程是如何运作的？一个在技术上更有意义、更实用的问题是，如何创造一个能够发展成人大脑的复杂、多面和高度集成能力的自主智能无人系统？

认知（或精神）发展的想法长期以来一直被心理学家和神经科学家所探讨，然而它在人工智能和机器人界并没有获得太多的关注。对自主心智发展的计算和数据驱动（即机器学习）研究可能是理解自然智能和构建智能机器的一个有希望的解决方案。

自20世纪90年代以来，人工蜂群智能的几个领域已经取得了实质性的进展，包括了解个体之间的变异性和这些个体特征的适应性对集群集体行为的影响。在建立可控性、可观察性的基本理论以及在结构化和实验室环境中评估同质智能体的同步算法的稳定性方面也进行了研究。

然而，有一个基本的需求是理解同步集群如何以及何时在非结构化和动态的现实世界环境中出现、合并和持续存在。此外，表征集群（即蜂群）中的个体如何获得特定的集体行为，同时平衡个人主义行为的发展，是另一个关键挑战。此外，复杂机器人群的控制原理是什么？这些控制原则是理解集体行为、同步原则以及复杂和大规模网络的失败机制的关键。

最终，自主智能无人系统的大部分功能可以被提炼为管理有限的、可改变的和可共享的公共资源，如运输和存储能力、能源和服务，以完成具有挑战性的（超级）人类水平的任务。

根据“公地悲剧”哲学，个人的自私利益和群体的利益之间的错位会导致公共资源（或整个生产系统）的过度开发和潜在崩溃，而集群中的个人之间以及更大的系统（群体）中的群组之间的合作关系可以增加这些公共资源。因此，出现了一种新的需求，即破译集群集体行为之间错综复杂的相互作用，为异质异构自主智能无人系统群体建立一套基本控制理论（包括可控性、可观察性和控制原则），以及探索群组之间随机博弈中的进化机制，以优化和可持续地利用公共资源。

本文来自微信公众号：中国工程院院刊 （ID：CAE-Engineering），本文内容呈现略有调整，若需可查看原文：Jie Chen， Jian Sun， Gang Wang.From Unmanned Systems to Autonomous Intelligent Systems[J].Engineering，2022，12(5):16-19.