人工智能大爆发，硅谷迎来“奇点”时刻？

本文来自微信公众号：腾讯科技（ID：qqtech），编译：金鹿，原文标题：《人工智能帮助硅谷迎来“奇点”时刻？2045年人类智力可提高100万倍》，题图来自：《阿丽塔：战斗天使》

划重点：

1. 许多专家认为，人工智能取得的巨大进步正帮助硅谷迎来奇点时刻，我们即将迎来剧烈的、指数级的、不可逆转的巨变。

2. 奇点理论的最大拥护者库兹韦尔预计，到2030年时，计算机系统将通过图灵测试，与人类无法区分。之后再过15年，真正的奇点将会到来，届时“计算将成为我们自身的一部分，我们的智力将提高100万倍”。

3. 反对派的批评人士认为，即使大语言模型取得了惊人的进步，也与奇点理论所承诺的不朽的、世界智慧的漫长历程相去甚远。

多年来，硅谷始终期待着一种全新的技术出现，并改变一切。它将把人类和机器结合起来，变成更高级的智能，并为历史划开界限。这个里程碑的时刻被称为“奇点”。

它可能会以多种方式发生。一个风险是，人们可能会将个人电脑的处理能力添加到他们自己与生俱来的智能中，变成他们自己的超强变种。或者，计算机系统可能会发展得异常复杂，以至于它们实际上可能会假设，创造一个世界性的思维。

在这两种情况下，随之而来的改变可能是剧烈的、指数级的、不可逆转的。一台具有自我意识的超人机器可能会比任何一组科学家更快地设计出自己的增强功能，从而引发智能大爆炸。几个世纪的进步可能在几年甚至几个月内完成。

人工智能在科技、企业和政治领域正掀起前所未有的波澜。留心硅谷发出的夸张声明和疯狂预言，看来承诺已久的数字天堂终于触手可及。

向来低调的谷歌首席执行官桑达尔·皮查伊(Sundar Pichai)称，人工智能的影响“比火、电或我们之前所做的任何事情都要深刻得多”。

亿万富翁投资者里德·霍夫曼(Reid Hoffman)表示：“在这个星球上做出建设性改变的能力即将得到前所未有的重要提升。”

微软联合创始人比尔·盖茨(Bill Gates)宣称，人工智能“将改变人们工作、学习、旅行体验，并获得健康护理和相互交流的最佳方式。”

然而，这里有一个黑暗的转折。就好像科技公司发布自动驾驶汽车时警告说，它们可能在你前往沃尔玛购物途中发生爆炸。

推特和特斯拉掌舵人埃隆·马斯克(Elon Musk)上月在接受采访时表示：“通用人工智能的出现被称为奇点，因为很难预测之后会发生什么。”但他表示，他认为“一个富足的时代”将会到来，但通用人工智能也“有可能毁灭人类”。

在科技界，人工智能最大的支持者是OpenAI首席执行官萨姆·奥特曼(Sam Altman)，这家初创公司的聊天机器人ChatGPT引发了当前热潮。奥特曼说，人工智能很可能是“我们所见过的最好的金融赋权和许多人致富的力量。”不过，他也表示，马斯克的观点可能是对的。马斯克对人工智能持批评态度，还创建了致力于开发脑机接口的组织。

上个月，奥特曼签署了一封由非营利性组织人工智能安全中心发起的公开信，信中表示，“减轻人工智能灭绝人类的风险应该是全球优先事项”，它应该与“流行病和核战争”并列。其他签名者包括奥特曼的OpenAI同事，以及来自微软和谷歌的科学家。

“世界末日”的话题在硅谷已经变得耳熟能详，甚至是许多人所热衷探讨的领域。几年前，似乎每个科技大咖都在遥远但仍可到达的地方建有物资储备充足的末日地堡。2016年，奥特曼表示，他正在收集“武器、黄金、碘化钾、抗生素、电池、水、防毒面罩，以及可以乘坐飞机到达的大苏尔(Huge Sur)地区。”在一段时间内，新冠疫情让这些人觉得自己的做法是正确的。现在，他们正在为奇点的到来做准备。

奇点的根源

奇点的思想根源可以追溯到约翰·冯·诺伊曼(John von Neumann)身上，他是一位计算机科学家先驱，在20世纪50年代，他谈到“技术的不断加速进步”将如何产生“人类历史上一些重要的奇点”。

英国数学家欧文·约翰·古德(Irving John Good)在二战期间，曾于布莱切利公园(Bletchley Park)帮助破译德国恩尼格玛密码系统，他也是奇点理论的支持者。他在1964年写道：“人类的生存将取决于超智能机器的早期发展。”导演斯坦利·库布里克(Stanley Kubrick)曾就《2001：A House Odyssey》中的人工智能HAL咨询过古德，这是电脑科学和科幻小说之间界限模糊的早期例子。

卡耐基梅隆大学机器人研究所的兼职教授汉斯·莫拉维克(Hans Moravec)认为，人工智能不仅对人来说是一大福音，无生命的东西也可以在奇点中被回收。他在《儿童思维：机器人和人类智能的未来》(Mind Children: the Future of Robot and Human Intelligence)中写道：“我们将有机会重新创造过去，并以一种真实而直接的方式与之互动。”

企业家兼发明家雷·库兹韦尔(Ray Kurzweil)始终是奇点理论的最大拥护者。他写了许多有关奇点的书，包括1990年发表的 《智能机器时代》、2005年的《奇点临近》，现在正在写《奇点更近了》。

库兹韦尔预计，到2030年时，计算机系统将通过图灵测试，与人类无法区分。他估计，这之后再过15年，真正的奇点将会到来，届时“计算将成为我们自身的一部分，我们的智力将提高100万倍”。到那时，库兹韦尔可能已经97岁了。在营养维生素和膳食补充剂的帮助下，他希望继续看看以后的发展趋势。

对于有些批评奇点理论的人来说，在软件编程领域复制感知系统在智力上是一种可疑的尝试。美国麻省理工学院计算机科学与人工智能实验室前主任罗德尼·布鲁克斯(Rodney Brooks)说：“他们都想要永生，而不必因为信仰神明而带来不便。”

目前推动奇点辩论的创新是因为大语言模型的出现，即为聊天机器人提供动力的那种人工智能系统。在与这些大语言模型进行对话的过程中，它可能会迅速、连贯地给出解决方案。

资深人工智能企业家、《人工智能：每个人都需要知道的东西》一书的作者杰里·卡普兰(Jerry Kaplan)说：“当你提出一个问题时，这些模型会解释它的意思，确定它应该给出的反应，然后把它翻译成文字。如果这不是自然智能是什么？”

卡普兰表示，他对自动驾驶汽车和加密货币等被大肆宣扬的奇迹持怀疑态度。他对最新的人工智能增长抱有类似的疑虑，但他表示自己已经被说服。他说：“如果这不是‘奇点’，那它肯定是一个革命性的技术爆发，将广泛地加速一大堆艺术、科学和人类知识的发展，同时也会产生很多问题。”

批评人士反驳说，即使大语言模型取得了惊人的进步，也与奇点理论所承诺的不朽、世界智慧的漫长历程相去甚远。准确地将炒作与现实区分开来的不利之处在于，驱动这种技术的引擎被隐藏起来了。OpenAI最初是一个利用开放源代码的非营利组织，现在是一家营利性企业，批评人士称它成功地成为了一个黑匣子。谷歌和微软也提供了有限的可见性。

大部分人工智能分析都是由公司完成的，从结果中可以得到很多东西。微软向OpenAI投资了130亿美元，该公司的研究人员在4月份发表的一篇论文中得出结论，称OpenAI的最新模型“表现出许多智能特征”，包括“抽象、理解、视觉、编码”以及“对人类动机和情感的理解”。

斯坦福大学计算机科学博士学者赖兰·谢弗(Rylan Schaeffer)表示，有些人工智能研究人员错误地描绘了这些大语言模型是如何展示“新兴才华”的，这些无法解释的能力在较小的变体中并不明显。

谢弗与斯坦福大学的两位同事布兰多·米兰达(Brando Miranda)和桑米·科耶霍(Sanmi Koyejo)一起，在上月公布的一篇分析论文中研究了这一问题。他们得出结论：新出现的热潮是由测量误差造成的“海市蜃楼”。

永生与永恒的利润

在华盛顿、伦敦和布鲁塞尔，议员们正在讨论人工智能的替代方案和引发的问题，并开始谈论监管。奥特曼现在正进行全球之旅，希望转移早期的批评，并将OpenAI宣传为奇点的牧羊人。

这包括对监管持开放态度，尽管目前对如何监管依然没有清晰的框架。硅谷通常认为，政府的行动过于迟缓，无法监督突飞猛进的技术发展。谷歌前首席执行官埃里克·施密特最近接受采访时表示，政府中没有人能把这件事做对，他认为人工智能应该自我监管。

人工智能类似于奇点，已经被描述为不可逆转的技术趋势。奥特曼和他的几位同事上个月写道：“阻止它需要类似于全球监管制度的东西，即使是这样也不能保证奏效。”他们补充说，如果硅谷做不到，其他地方或许会成功。

更少提到的是从这种趋势中获得的巨额收入。尽管所有人都在讨论人工智能是一台巨大的财富创造机器，但变得富有的人只是那些已经富有的人。微软今年的市值飙升了5000亿美元。得益于人工智能芯片需求激增，英伟达被认为是美国最受欢迎的上市公司之一。

奥特曼在推特上写道：“人工智能是世界一直想要的技术。”的确，这绝对是科技界一直以来所希望的技术，在绝对最好的时候到来。去年，硅谷受到裁员和利率上升的打击，较早增长的加密货币领域陷入了欺诈和失望之中。

查尔斯·斯特罗斯(Charles Stross)是小说《书呆子的狂热》的合著者之一，这是一部处理奇点的喜剧作品。他说：“这里的实际承诺是，公司将有能力用某些软件程序来交换他们有缺陷的、昂贵的、迟缓的、人工信息处理的子模型，从而帮助解决问题并减少管理费用。”

奇点始终被想象成一个伟大的“宇宙时刻”，令人兴奋。然而，目前人们讨论奇点的原因，可能是美国企业希望削减人力，痴迷对利润的增加。用夸张的表述来说，当你（指企业家）在冲刺以使你的市值增加数万亿美元时，即使是（无法达到）的天堂也可以一直等待下去。

参考文献：https://www.nytimes.com/2023/06/11/technology/silicon-valley-confronts-the-idea-that-the-singularity-is-here.html

本文来自微信公众号：腾讯科技（ID：qqtech），编译：金鹿