正确的提示信息

扫码打开虎嗅APP

从思考到创造
打开APP
搜索历史
删除
完成
全部删除
热搜词
2023-12-20 08:20
陈冲:梦中呼喊的人

因为ChatGPT的出现,2023年注定会是一个值得被记住的年份。《经济观察报》年终特刊就此锁定了人工智能。我们邀请了来自中国社会各界的代表人物,以书信的方式,畅谈他们心目中的AI世界和他们的所思所愿。


他们是企业家、投资人、哲学家、社会学家、音乐家、诗人、作家、医生、中学校长、公益人、编剧、导演、演员、博物馆馆长……这些表达汇成了《AI时代的人类意见》。他们或悲观或乐观,或满怀期待或心有疑问。不过我们相信,在悲观者和乐观者之间并不存在较量,足够多元和丰富的声音才能够帮助我们理解正在发生的所有。更何况,正是那些优秀的思考者和行动者对于未来的想象,在很大程度上决定着我们的方向。


现在,让我们打开信箱,开启思想的未来之旅。


本文来自微信公众号:经济观察报 (ID:eeo-com-cn),作者:陈冲(著名电影导演、演员),原文标题:《陈冲:梦中呼喊的人丨AI时代的人类意见》,题图来源:受访者供图

文章摘要
这篇文章是陈冲关于人工智能时代的人类意见的一封信。她探讨了人工智能的发展和影响,以及对人类的挑战和机遇。

• 🤖 陈冲分享了她对ChatGPT人工智能的体验和对其潜力的思考。

• 🎨 她讨论了人工智能对艺术家和艺术的影响,并提出了对意义和幸福的思考。

• 🌍 文章中引用了玛莉·雪莱的《现代普罗米修斯》和石黑一雄的《克拉拉与太阳》,探讨了科技进步对人类的影响以及人类与人工智能的关系。

致友人:


认识这么多年了我还是第一次这样给你写信,这个年头谁还通信啊。我十五岁就开始出外景,有挺长一段时间非常依恋写信。回头看,这样充满孕育和等待的交流简直是一种仪式——好比祈祷——为心灵带来温暖和安抚,甚至升华。写信、折信、封信、贴邮票,浆糊用完了用米粒儿,最后把信投到邮筒里,开始等待对方的回应。时间流淌得很慢,“未来”离得很远,让我无限憧憬。从什么时候开始,时间成了Time-lapse拍的镜头,一转眼就不见了?从什么时候开始,未来成了巨浪,扑面而来?


第一次听说ChatGPT,是你告诉我的。你说,很高兴看到GPT现在增加了强化学习,有了更好的探索/利用平衡。我一直在批评big pre-trained transformer model, 它能很好地进行“利用”,但缺乏“探索”。现在使用强化学习弥补了这一点。新的GPT变得非常强大,试着玩玩看吧。那是2022年的12月,正遇母亲一周年忌日。


记得母亲在世时,我跟她说起过AI——她严重失忆,无论说什么都会在半分钟里忘记,聊天只是为了陪她度过时光——我信口开河地胡说,现在有一种机器人,能解答所有的问题,懂得所有的语言,随时自我完善,还有无限的记忆力,厉害吧?你要不要买一个?她说,那么灵啊,那每一个笨小孩都应该有一个,带着它去学校。我觉得她的话挺逗的,她本能地觉得聪明的小孩不需要。其实没人需要AI,只是它被争先恐后地创造出来了,我们也必须争先恐后地去使用它。


2022年圣诞节前后,旧金山上空来了一条“大气层河流” ,暴雨把窗外的世界变得一片模糊,我仿佛在一个现实以外的“水帘洞”中,着迷地玩了几天ChatGPT——问它尖锐的问题、勾引它说脏话、让它用我给的规定情景或人物编故事。我告诉你,我一直在努力让GPT写出些出乎意料的有趣情节,但结果都是最陈腐单调的东西,有点令人失望。在涉及知识时,它表现得很好;在涉及创造力时,它还差得太远…… 而且GPT被编程得如此一本正经,充满外交辞令,拒绝放肆或“邪恶”。从这个意义上说,它实际上是有偏见的……


你开玩笑说,可怜的ChatGPT,被你这么折磨。我回,问题是你可以折磨它直到你筋疲力尽或老死,它都毫发无损,怎么跟它竞争啊?你说,而且你越折磨它,它越强大。


第一次正式派上GPT的用场,是因为航空公司丢失了彼得托运的高尔夫球棒,管事人说球棒放在超大行李传送带上了,那之后不见的就不关航司的事了。我怀着好奇的心理向ChatGPT求助,没想到一封完整的法务信件瞬间出现在屏幕上,井井有条,面面俱到,振振有词。没有ChatGPT我自己也能写出来,但是为什么要花那么多时间精力去写一封枯燥乏味的法务信件呢?何况结果还不一定有它写得那么奏效。


所有这些不再被我们需要的人的能力,所有能省略掉的过程,都将不复存在。这是生命的效率,人是通过如此淘汰进化而来的。过不了几代人,母亲说的“笨小孩”也许就会越来越多了吧——毕竟,挣扎的过程是形成独立思考的唯一途径。你和你的同仁们都预言,AI很快会在感知和认知能力以及任务方面超越人类,它将为我们完成95%或者更多的工作,为我们创造巨大的价值。每次听到这样的话我都纳闷,那人自身的价值呢?


今年五月,好莱坞编剧工会开始罢工游行,其中一个重要的协商内容,就是关于生成性AI的使用规定。我跟你说,目前AI对我们行业的影响还没有真正显现,但我仿佛看着一个巨大的陨石,燃烧着惊艳火光,以每秒十公里的速度从天边向我们飞来,像电影《不要抬头》那样。你回,AI会是你最好的工具。


同月,你发来了一封世界尖端AI创造者的联名信,其中包括了你的署名,“……在短短几个月的时间里,从最初只是生成美丽图像和有趣对话的机器人开始,这一潜力迅速膨胀,导致了一种如此强大的技术,以至于我们现在对其可能产生的影响感到恐惧…… 人类正在因此面临着灭绝的危险”。增强型通用智能的出现,将彻底改变人类的进程,重新建立人与人、人与机器、机器与文明、机器与社会的秩序,而正如尼科洛·马基雅维利在《君主论》中所说,“没有任何事比引入和执行一个全新的秩序更困难、更危险和无法保障成功”。2023年将载入史册。


其实,“智能机器”的概念——它作为一个不知疲倦的助手、终极士兵,甚至一个贴心的伴侣——已经吸引了人类的想象力数千年。早在三千年前,荷马史诗中就描写了,火神赫菲斯托斯利用他的特殊能力创造了“由金制成的仆人,看起来像活生生的少女”。这些似人的机器“有智慧,有声音和活力,它们从不朽的神祇那里学到了技艺,整天匆匆忙忙地围着主人服务”。这个与文明一样古老的愿望眼看就要实现了,如此伟大的创举却让我想起一个说法:小心你的愿望。下半句一般不用说出来:它恐怕会成真。Be careful what you wish for(lest it come true)


从几百年前开始,作家、艺术家、伦理学家就用他们的著作向世人发出警示。1818年问世的《现代普罗米修斯》也许是其中流传最广泛的吧。在十三年后的再版前言中,作者玛莉·雪莱描写了作品最初的愿景:“我闭眼看到了——用敏锐的思维视觉——我看到了一个被亵渎了的学科的学生,跪在他所创造的东西旁边。我看到了一个像可怕幻影那样的男人躺在那里,然后,在一台强大引擎的作用下,显示出生命的迹象,并以一种不安的、半有生命的动作挣扎。”


书中的科学家弗兰肯斯坦以发展科学、造福人类的初衷,在实验室中制造出一个有机的生命,它学会了人的思维、逻辑、言行和感情,也跟人一样渴望爱与归属。但正如它对它的创造者所说的“我本该是你的亚当,却成了坠落的天使” 那样,所有遇见它的人都视它为恐怖的怪物,它因此陷入绝望,成了人的仇敌,并杀人报复。弗兰肯斯坦后悔莫及,天涯海角地追踪这个他不该创造的生命,发誓将它毁灭,最终不幸付出了自己的性命。


在对科学的理解还非常局限的年代,这本书对科学和创造的本质提出了精髓的探讨。书中的“怪物”虽然不是机械的,但它跟AI引发出来的伦理问题是相同的:我们的能力与野心是不是应该有禁区?当我们看到自己的能力与野心在毁灭人类时应该怎么办?


今天翻开《现代普罗米修斯》,我再次为之惊叹,如此娴熟的语言、深邃的哲思、澎湃而细腻的感情、无底深渊的黑暗,竟然出自一位18岁少女的笔下。当然,这不是个一般的少女。


玛莉从出生就离文学和死亡很近,她的母亲——女权主义哲学家玛莉·渥斯顿克雷福特——生下她不久就去世了,她的父亲威廉·戈德温也是一位重要作家。玛莉自幼在父亲的图书馆博览群书,并通过父亲认识了许多文学界的精英,她后来的丈夫珀西·雪莱也是其中的一位。她与珀西恋爱以后,他的第一个妻子自杀了,玛莉的三个孩子也相继在幼年夭折。


失去了第一个孩子之后,再次怀了孕的玛莉跟珀西、拜伦、妹妹克莱尔启程去日内瓦湖休养。因受到印尼桑巴瑞火山爆发的影响,那年整个北半球被笼罩在阴霾中,在历史上被称为“没有夏季的一年”。旅途中,玛莉被大自然的美和严峻深深震撼。所见风云的不测、山峰的威严、峡谷的神秘、河流的奔腾、森林的幽静,日后被她重新想象,成为了《现代普罗米修斯》中的场景。


到达日内瓦湖畔后,他们为了躲避恶劣的天气经常聚在屋里聊天,从文学、哲学谈到当时最新的科学进展,从异常的气候谈到超自然现象,从神秘主义谈到鬼故事。有一天,拜伦建议他们每人写一篇鬼故事,比赛谁写得最恐怖。《现代普罗米修斯》由此诞生,谁能想到,这个始于消遣的创作,将成为世界上最有远见的文学作品之一。


2021年,一本原版印刷的《现代普罗米修斯》在佳士得拍卖了117万美元,创了纪录,但书中的伦理并没有太多人留意。我耳边莫名地响起那首叫《风中飘荡》的歌:“……炮弹要从头顶飞过多少次,才能永远被禁止?答案,我的朋友,在风中飘荡,答案就在风中飘荡……” 


讲到玛莉·雪莱的人生、她的创作源泉和才情,我想到我们讨论过的另一个课题——AI对艺术家和艺术的影响。那天我们是从梵高的画谈起的,你给我发来一幅人工智能生成式补全的《星空》,说,AI开始糟蹋名画了。我给你发去一张用Lensa软件做的“梵高画的”我,说,AI对艺术最大的威胁不是取代,而是使之庸俗化,使人的审美和鉴赏眼光钝化。


什么是艺术?看到梵高的《星空》时,我们也看到了他关在精神病院里,凝视窗外的星空,并在作画的过程中获得心灵的安抚和自由;看到了他在贫困、病痛和讥笑面前的挣扎和信念;看到了他对爱、知音和自我完善的渴望。阅读《现代普罗米修斯》时,我们也会联想起那个被死亡纠缠的少女。作品的熔炉是人生的苦海和彼岸的乐土,没有肉身与精神的锤炼,怎么可能成形?


其实真正打动我们的是人类的局限性和超越极限的勇气,人类的欲望和它的精神升华。人工智能以其无限的潜力,不具备人的局限与脆弱。艺术让我们体会到的敬畏感,不仅存在于创作结果中,它也存在于我们拼命超越自身的企图中。无限的潜能还有什么可超越与升华的?


心灵和意识是人类智能探索的最后疆域,这块神秘之地也是艺术的起源和归属。但也许有一日AI能模仿我们的心灵和意识?也许真与假、本质与表象的界限将跟水银一样流动?也许我们的感官将不再能辨别代糖与蔗糖、植物奶油与黄油、一夜情与恋情的不同?


你说,在未来(大约50年后)人类将进化成一个新物种,类似于今天与10万年前智人的差异,只不过这次的进化是由技术的进步所加速的。你的话让我联想起石黑一雄的小说《克拉拉与太阳》,在那个未来的世界,“人机结合”的手术已是现实,家长们思想斗争是否该为孩子的脑子“提升”——毕竟,“提升”后的孩子就不再是原来的人了。人类可能并不会进化成新物种(30万年前的智人和我们仍是同一物种),但被“提升”后的生命的确将是一个新物种。


他们的(还是它们的?)记忆将是什么样子?连遥远的记忆都会清晰无疑?而不再是似梦似幻想的人、声音、场景,以及那无名的渴望?不再是隐藏太久而朦胧了的秘密,以及那穿刺心灵的甜蜜?不再是掉入时间河流里的石头,被岁月磨成卵石,长出毛茸茸的青苔,坐落在淤泥砂石旁,在水波中恍恍惚惚,阳光里一个样子,月光里又是另一个样子……


他们拥有了包罗万象的知识和所向披靡的认知,还会有神秘的体验吗?还能遐想和惊异吗?还需要意义吗?人类文明的驱动力——不管是发展科技还是人文——都源于对意义的渴求,而并非对真理的渴求。AI完全不需要意义。


增强型AI的自主性加上人的天然惰性,会不会使这个新物种变成人工智能的寄生载体?就像那些被寄生蠕虫侵入了大脑神经的蟋蟀,跳到河里去自杀,从而让寄生蠕虫进入更有利于其繁殖的水环境。


人与新物种之间会发动战争吗?就像那些科幻小说和科幻电影里的那样?使用AI自主武器打仗将是什么样的情景?


每个美梦都能在镜中看到一个噩梦的深渊,就像我们仰望苍茫的夜空时,看到自己灵魂的深渊……


不管发生什么,结局是不是都一样?朝代来了又去,文明来了又去,人类也将来了又去,就像恐龙来了又去,星球来了又去,宇宙来了又去。这种宿命的感觉或许也导致了我对废墟的迷恋?古罗马的格斗场,秘鲁的马丘比丘,墨西哥的玛雅遗址…… 我们不仅能从断壁残垣看到昔日的辉煌,也能看到我们自己的未来,看到地球上每一个终将被自然或非自然吞噬的文明。婷婷九岁的时候我带她去了庞贝——公元79年被维苏威火山爆发埋没了的古城。记得她一动不动地望着玻璃展柜中被岩浆定了格的人,神情那么严肃。我问,你在想什么?她转头看我,如梦初醒。然后她做了个怪脸,笑着模仿起那些岩石的人体。也许她没有语言表达对生死懵懂的思绪?也许她从扭曲的肢体中看到人类永恒的痛苦和挣扎?


艺术家描绘的未来,往往是一派反乌托邦的衰变景象和某种怀旧的惆怅,而你总是说人类会因为科技的进步而越来越幸福。我欣赏你的乐观,以及你对自己领域的信念和期待,但是人怎么可能因为科技进步而变得越来越幸福呢?幸福与苦难从来是成正比的,就像光明与黑暗,科技能让阳光没有阴影吗?医学的发展可以减轻人肉体的疾痛和折磨,但是苦难本身是人类的生存境况(human condition)


也正是痛苦的体验,让我们对他人的苦难有了温柔和同情。幸福的基石不是科技的进步,而是对苦难的忍耐、抗争和释怀。幸福与苦难怎么平衡?一边是几粒金色的麦穗,另一边是无际的苦海。然而,它们是平衡的,就像宇宙是平衡的一样。那几粒麦穗包含了每一片日出,每一片日落,每一份滋养你的美丽,每一个值得你的渴望。今天你在天平的这边,明天你也许在天平的那边,不需要太多理由。我们唯有珍惜。


今年以来,你参加了各种AI安全使用的峰会和论坛,并起草了AI对人类的具体威胁以及给管理者的建议。我觉得这些努力值得敬佩,跟你说:你在为人类做一件伟大的事情。半秒钟内你发来一个字:No——有点不容置疑,不像谦虚或客气。或许你惯常的乐观是一种心灵取向,而并不依赖于现状或对未来的评估。你很清楚,人的本性和未来都像洪流一般汹涌,而“自由意志”只是洪流中的一株浮草;驱使我们创造出惊人奇迹的动力,也必将导致自我毁灭。


写了这么多还觉得没写完,与其说我在给你写信,不如说我在企图用这个过程整理思路、寻找和认识自己。我们是在梦中呼喊的人,不知道折磨着我们的东西,是不是某种深层幸福的隐秘开端。    


祝愿你在新的一年中健康美满!


陈冲


2023年12月


本文来自微信公众号:经济观察报 (ID:eeo-com-cn),作者:陈冲(著名电影导演、演员)

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系 hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
打开虎嗅APP,查看全文

支持一下

赞赏

0人已赞赏

大 家 都 在 看

大 家 都 在 搜

好的内容,值得赞赏

您的赞赏金额会直接进入作者的虎嗅账号

    自定义
    支付: