理解智能时代

本文来自微信公众号：经济观察报 （ID：eeo-com-cn），作者：刘志毅（上海交通大学计算法学与人工智能伦理研究中心执行主任、中国人工智能学会AI伦理工作委员会委员），题图来源：视觉中国

我们正处在大模型的时代，它被视为一个巨大的转折点，如同从“马车”时代跨越到“汽车”时代。而这个比喻并不过分。在马车时代，人工智能的进展更多地依赖于人的智力和创造力，如同拉动马车前进的马。然而，随着生成式AI的发展，我们已经进入了AI的“汽车”时代，大模型成为了人工智能的发动机。

然而，这样的比喻并不能完全精确地描绘当前人工智能的发展现状。事实上，如果我们深入观察汽车工业的发展历程，我们可以发现，当前的人工智能可能仍处在“蒸汽机时代”。这个阶段的特点是技术尚处在初级阶段，且对能源的依赖性极高。这在AI领域也有所体现：大模型需要大量的数据和计算资源，且面临泛化能力有限、可解释性差等问题。

我们必须警惕的是，将大模型视为通用人工智能的唯一道路可能是一种误解。就如同汽车工业的发展并非仅仅依赖于发动机技术的进步一样，实现真正的通用人工智能也需要我们在多个层面进行技术创新。包括但不限于模型的设计、训练算法的改进，以及对模型决策过程的理解和解释等等。

此外，我们也不能低估实现通用人工智能的难度。就如同从蒸汽机时代过渡到现代汽车工业的水平需要经历诸多技术革新和社会变革一样，实现真正的通用人工智能也同样需要我们在技术、社会甚至哲学层面进行深入的思考和探索。这既是我们需要警惕的地方，也是我们在这个风口中需要深度反思的地方。

智能时代正在将我们带向一个从学习驱动到全面普及的新境界。这个趋势的深远影响不仅改变了我们的生活方式，更改变了我们对智能的理解。智能，作为一种自然现象，其普及化原则正与自然智能的本质相吻合。我们从中看到，人工智能正在步入一个与自然智能并行的时代。

从诺伯特·维纳提出的“闭环反馈”理论中，我们可以领略到智能如何通过学习自我改进的过程。在闭环系统中，智能体通过不断观察、学习和适应环境，以实现自我优化，这一过程既符合生物进化的规律，也为人工智能的发展提供了理论支持。

然而，我们对智能的理解并未止步于此。我们正在尝试构建新的图灵机范式，如意识图灵机，来进一步揭示智能的奥秘。这种范式试图通过对自我意识的模拟，来复杂化和深化我们对智能的认知。

同样值得我们深思的是“意识剧院”的理论，以及对“意识难题”的探索。这些理论和探索挑战了我们对智能的既定认识，使我们不得不重新审视智能的本质：智能是否仅仅是算法和数据的组合？或者，智能还包含了某种我们尚未理解的，与意识相关的特性？

智能时代的到来无疑为我们提供了无限的可能性和机遇。它推动我们不断探索，直到我们找到解答。正如人工智能的发展历程一样，我们的认知也在不断地扩展和深化。因此，我们有理由相信，未来的智能时代将为我们揭示更多关于智能本质的秘密，也将引领我们走向一个更为广阔的未知领域。

在全球范围内，大型语言模型和通用人工智能正在对各行各业产生巨大的影响，为我们带来前所未有的机遇和挑战。这些发展的背后，是深度学习技术的飞速进步。然而，当我们沉浸在其潜力的炫目光芒中时，我们也必须直面其带来的问题和困扰。这其中最主要的问题包括了模型的可解释性不足、计算资源的大规模消耗、模型稳定性的问题以及安全性漏洞。

这些问题在很大程度上源于我们对“智能”的理解和应用方式。现有的深度学习模型，无论是分类器还是生成器，多数基于开环系统，训练过程往往依赖于监督学习或者自监督学习。这样的系统虽然能够通过大规模的计算资源和庞大的模型参数来提升模型性能，但也暴露出了无法自动纠正预测错误以及对环境变化的适应性不足的问题。这些问题的解决，不能仅仅依靠“蛮力”——扩大模型规模和增加算力。

为了深入解决这些问题，我们必须重新审视并理解“智能”的本质。从现象本源出发，跳出传统的框架，重新探索如何构建和理解人工智能系统，这是我们面临的任务。换句话说，我们需要从新的视角去思考和理解“智能”，寻找新的模型和方法，以便我们能够真正解决现有问题，实现人工智能的巨大潜力。

本文来自微信公众号：经济观察报 （ID：eeo-com-cn），作者：刘志毅（上海交通大学计算法学与人工智能伦理研究中心执行主任、中国人工智能学会AI伦理工作委员会委员）