扫码打开虎嗅APP
本文来自微信公众号:硅星GenAI(ID:gh_e06235300f0d),作者:周一笑,题图来自:视觉中国
吴先生做了个梦,在梦里,已经去世的儿子对他说,“爸,人是可以复活的。”说完这句话之后,儿子拿起笔记本开始敲键盘,梦结束了。吴先生感到很奇怪,失去亲人的痛苦有没有解决方法?
在一个南京团队的帮助下,借助生成式 AI 技术,通过一段 AI 生成的视频,以数字形象的形式,吴先生再次见到了“儿子”。虽然“儿子”的声音略带机械感,形象的还原度不够完美,也无法进行交互,但这仍然给吴先生提供了某种慰藉。
面对法新社的镜头,吴先生说,“世界上像我这样的人也不少,这也算是用一种新的科技,实现人的一种人生的完美,如果这种技术真的发展起来,在人间可能就没有失去亲人的痛苦了,永生了。”
利用 AI 将逝者“复活”并不是一件最近才出现的事情。好莱坞一直在用 CG 复活已故明星,在《速度与激情7》中,保罗·沃克在拍摄过程中不幸去世,电影制作团队使用 CG 技术结合他的兄弟作为替身,完成了他的角色。
纪录片《Meeting You》 讲述了韩国一位母亲借助了 VR 技术,重现了女儿与母亲的最后一次见面。故事虽然感人,但更像是做了一个 VR 游戏,耗资 7 亿韩元(约 379 万人民币)。
2020 年,加拿大青年 Joshua Barbeau 在未婚妻 Jessica 去世八年后,通过基于 GPT-3 的 AI 聊天机器人Project December,“复活”了女友,Joshua 把妻子的短消息记录和 Facebook 帖子等语料喂给大模型,设定了女友的性格,并如此介绍:“这是悲痛欲绝的 Joshua 和 Jessica 的鬼魂之间的对话”。虽然很多次 Joshua 几乎以为自己真的在和 Jessica 的鬼魂聊天,但本质上还是聊天机器人。
2024 年 1 月,台湾音乐人包小柏通过 AI “复活”了自己的女儿 Feli,还让“女儿”在妻子的生日宴会上唱了一首生日歌,这背后是小冰公司的虚拟人软件 X Eva。
前几天的商汤科技年会,用数字人复活了去年因病去世的汤晓鸥教授,讲了一场脱口秀,高度还原了汤晓鸥的神态等细节,除了纪念逝者,也是在秀肌肉。
很显然,AI “复活”并不是真的复活,它不涉及生物学上的生物体复活或意识的恢复,而是一种模仿和模拟,是一种数字分身应用,这涉及图像、语音、视频和文字生成技术。这些技术结合使用,能够基于逝者生前留下的资料,如照片、录音或视频等,生成具有逝者特征的数字化形象和声音,甚至模拟他们的思维方式和语言风格。
随着生成式 AI 的兴起,“复活”逝者这件事的技术门槛和成本不断降低,在电商平台,可以搜索到大量 9.9 复活亲人服务的商家,当然,大部分只能做到让照片里的人能够动起来开口说话。这些商家大多借助的是现成的产品和开源技术,再包装成易于理解的服务。
如果愿意多花一点钱,通过换脸、动捕、Deepfake 等技术,给真人换上逝者的形象和声音,还可以实现与逝去的亲人进行实时的语音和视频通话。
B 站 UP 主吴伍六就介绍了用 AI 复活奶奶的全部过程,包括将照片上传至 Midjourney 并优化、录音导入音频编辑软件并切割成短音频、训练一个AI语音模型、输入文本尝试语音合成、将合成的语音包下载到本地。使用 ChatGPT,通过 Prompt 实现角色扮演对话,最后用数字人生成工具 D-ID ,上传头像生成模型、上传文字和音频,进行合成。
越来越真实的虚假
技术的进步总是伴随着其正面和负面影响的平衡。AI 技术可以为我们所用,也可能会被滥用。
近日,一些网络博主使用 AI 技术,“复活”离世明星的做法备受争议。在这些视频中,李玟、乔任梁、高以翔、姚贝娜、科比等已故明星重新出现在公众视野中。视频中,李玟说“我永远都会陪伴着你们”;乔任梁说“其实我并没有真正离开”,这些视频大多是为了博眼球,部分是为了引流到数字人制作、“复活”亲人业务,或者卖相关教程。
高以翔家人和乔任梁父亲相继喊话相关博主,要求下架有关视频。他们认为,这些视频对逝者亲人是一种冒犯和伤害,揭开了他们的伤疤。
江歌妈妈也发文表示,“不接受用 AI 复活亲人!如果能‘复活’,也仅限于我亲自来做这件事。你们懂得我们(痛失挚爱的人)逝去的亲人吗?你们懂得我们(我与逝去的亲人)的感情是什么样子吗?你们不懂我们,又凭什么为我们(我与女儿)做决定!”
如果说复活明星还只是涉及隐私或者伦理,那么通过 AI 创造虚假内容,可能是一个更加严峻的问题。
前段时间泰勒·斯威夫特 AI“不雅照”在社交媒体的疯传,一度让 X 屏蔽了对泰勒·斯威夫特(Taylor Swift)的搜索。白宫表示“担忧”,并敦促美国国会立法打击此类行为。
香港一名跨国公司员工被诈骗分子利用深度伪造技术模拟的“高管视频会议”诱骗,转账 2 亿港币,5 天后才意识到自己被骗。
深度伪造甚至被人试图用来改变战争进程。俄乌冲突初期,一段乌克兰总统泽连斯基号召乌克兰人“放下武器活下去”的视频在网上疯传,后来被证实是用 AI 制造的“深度伪造”作品。
虚假信息的大范围传播,是群体智商降低的重要原因之一。随着技术的进步,不仅 AI 造假的成本在降低,效果也越来越好。起初,还可以通过五官、眨眼频率等特征分辨出来,随着技术的算法会不断演化,无论计算能力还是逼真程度都有了很大提升,已经让大众越来越难辨真假。
2021 年在社交媒体上流传的“深度伪造汤姆·克鲁斯”视频,可能需要数月的训练、昂贵的算力和熟练的演员来模仿克鲁斯的举止。而随着 Sora 这类技术的发展和普及,可能导致创造高质量伪造内容的门槛被大幅降低,造假成本更低廉,进而增加被用于诈骗、色情、虚假信息传播的风险。
应对这一问题,既需要推动相关立法与监管,也需要借助技术的力量,比如 McAfee 就推出了 Project Mockingbird,用人工智能检测技术来识别虚假信息。OpenAI 还提出了会研发一种水印机制,加入到视频或音频中。微软也与纽约时报、BBC 等媒体达成合作伙伴,在新闻行业的场景下对视频的真实性进行检测。
最终的答案:复活一切,模拟一切?
AI 可以复活亲人,也可以用来复活自己。伍迪·艾伦说,“我不想通过我的作品来达到不朽,我想通过不死来不朽”,现在他多了一个选择。某种程度上,AI “复活”,就像是一种当代的招魂术,只不过这一次,跳大神的巫婆,变成了 AI。
追求不朽是人类数千年来的幻梦,从中催生了宗教,也成为很多哲学思想的核心。历史上,人类总是试图以各种方式来纪念和“复活”逝去的亲人。从古埃及的木乃伊制作到中国的纸扎人形,从墓地的雕像到纪念碑,这些都是人们企图跨越生死界限,保存或重现亲人形象的努力。在这个背景下,AI 复活技术可以被视为这一传统的现代延续。
随着 AI 的快速发展,一些曾经只存在于科幻小说中的概念——如思想上传,即将个人意识、记忆和思维模式转移到机器或数字平台上,越来越不像是一种幻想。
马斯克说,我们生活的宇宙时空可能是由某种高维度生物制造的计算机所模拟生成,“AI 复活”这件事走到尽头,就像是在重复这一过程。更多的数据量,AGI 的到来,AI 复活一切(模拟)似乎只是时间问题,唯一的物理限制也许只是算力(能源)。所以,物理学还是存在的。
UP 主吴伍六说,如今的 AI 可以很好地去模仿一个人的相貌和声音,但就目前的科学水平而言,它无法模仿一个人的灵魂。
有人会不太理解,试图在网上找人 AI 复活亲人这件事,无论如何也不够令人信服,无法替代真实的需求。“复活”也许是一种自我欺骗,但自我欺骗也是人类的一种保护机制。正如汤姆·汉克斯在谈论 AI 和深度伪造技术使去世演员也能继续演电影时所说:“毫无疑问,人们将能够辨别出(那是 AI),但问题是他们会在意吗?”
“模拟灵魂”也许只是一个数据量的问题,有人提出,如果我们在某人的一生中捕获足够的数据,那么在他肉身消失后,也可以无限期地保留他的思想。微软研究人员戈登·贝尔和吉姆·格雷估计,记录人类一生中的所有对话,只需要大约 1TB 的存储空间。
如果不只是对话,会不会离“模拟灵魂”更近一点?不少科幻作品向我们展示了天衣无缝的全高清记忆录像,只需按下一个按钮,你就可以按需重播记忆。当然,目前世界上还没有这样的技术,但未来很可能会有,比如一个和大模型深度结合,可以 24 小时佩戴的 Vision Pro?
如果在未来的,AI 真的可以获取一个从出生到死亡的详细数据,是否真的能复活一个人的灵魂?《黑镜》第二季中有这么一个故事,故事的女主角借助科技公司复活了因车祸去世的丈夫,得到了一个百依百顺的人造男友,它能够极其逼真地模仿丈夫生前的思维习惯和语言方式,并在一定程度上维系其在现实生活中的人际关系与历史痕迹。
对女主人公来说,AI 男友不仅提供了真实乃至超现实的肉体感受,而且也提供了情感的慰藉和交流的可能,但女主人公最终无法忍受 AI 男友的死板、僵硬地模仿,技术制造的景观幻象归根结底是一种模拟。
任何足够先进的科技看起来都和魔法无疑,生活在一个感觉像是能触摸未来的时代是令人兴奋的。此时,AI 这种指数级增长,看起来像是一个相当确定的赌注,但它也是一个无法再放回瓶中的精灵,许愿时记得要谨慎,因为真的会实现。
本文来自微信公众号:硅星GenAI(ID:gh_e06235300f0d),作者:周一笑