正确的提示信息

扫码打开虎嗅APP

从思考到创造
打开APP
搜索历史
删除
完成
全部删除
热搜词
2024-05-21 19:24

寡姐怒斥ChatGPT盗用声音,OpenAI:真没模仿她

本文来自微信公众号:量子位(ID:QbitAI),作者:克雷西,原文标题:《寡姐怒斥ChatGPT盗用自己声音,OpenAI:已下架,但真没模仿她》,题图来自:视觉中国

文章摘要
文章揭露了OpenAI被指盗用斯嘉丽·约翰逊的声音,引发了一系列争议和怒斥。

• 💥 寡姐指控OpenAI在ChatGPT中使用了极其相似的声音,OpenAI否认模仿但下架了声音

• 😡 事件引发网友热议,一些人认为即使声音相似也无需禁止使用

• ✨ OpenAI解释声音选择流程,称并未使用寡姐的声音,但仍受到怒斥和质疑

OpenAI的新王炸GPT-4o还没全面铺开,就摊上事了!


抓马的是,此次推出的“视频通话”功能一度被称为电影《Her》现实版,而怒斥OpenAI的刚好是给电影中AI配音的斯嘉丽·约翰逊(寡姐)


寡姐控诉,OpenAI未经允许就在ChatGPT中使用了自己相似度极高的声音,对此感到既震惊又愤怒。



OpenAI这边则是予以否认,一边表示自己并没有模仿寡姐,但另一边还是把受到争议的声音下架了。



控诉一出,就引发了网友们的热议,本特利大学教授Noah Giansiracusa就表示,OpenAI使用和名人高度相似的声音,这种做法哪怕没违法,也是不道德的。



当然,这件事到现在还没有被实锤,OpenAI也给出了辩解,网友们认为,如果声音和名人真的只是相似的话,那就没有被禁止的理由了。



所以,OpenAI的这个新瓜到底保不保熟,下面就一起来吃一吃。


寡姐:我拒绝过奥特曼


整件事情的导火索,是在GPT-4o发布后,“实时视频通话”功能爆火,一度被称为电影《Her》的现实版。


在该功能中,ChatGPT可以同时进行看、听和说,也就是在语音对话的同时调用摄像头分析环境信息,而且过程十分流畅,就像在和AI打视频电话。


而且声音、语调甚至气息都和真人十分接近,可以选择的音色一共有五种。


引发争议的是,其中一个叫做Sky的声音,被认为听起来很像寡姐。


这个备受争议的Sky,在GPT-4o团队成员Rocky Smith的测试视频中有过展现,大家可以感受下:



寡姐则表示,自己本人和亲朋好友都觉得这个声音简直和自己如出一辙,和自己熟悉的一些媒体也这样认为。



不光声音很像,更关键的是寡姐的声明中还透露,OpenAI的确有过使用自己声音的想法。


事情要追溯到去年9月,寡姐收到了奥特曼的邀请,想要让她给ChatGPT配音,但考虑许久后,她拒绝了。


甚至直到GPT-4o发布前两天,奥特曼还联系过寡姐的经纪人,要求她重新考虑一下,结果当然是没有答应。


本以为事情就此结束,直到寡姐和周围的人听到了Sky,这个和自己高度相似的声音,她对此表示震惊、愤怒,又难以置信。


在GPT-4o发布的那天,奥特曼还发了一条推文,内容只有一个“her”,寡姐认为奥特曼这是在暗示使用和自己相似的声音就是故意的。



事后寡姐才回过味来,奥特曼在发布前两天找到自己的时候,GPT-4o肯定早就做好了(原文:Before we could connect, the system was out there.)


忍无可忍的寡姐聘请了法律顾问,给OpenAI发去了两封信,要求对Sky一事做出解释,详细说明其创建过程。


按照寡姐一方的说法,OpenAI收到这两封信之后,才“极不情愿”地把Sky下了架。


顺便提一句,Sky虽然下架了但是按钮还在,不过如果选择了Sky的话,实际使用的声音会被替换成Juniper。



当然,这些都是寡姐一方的说法,OpenAI则表示自己并没有试图模仿她。


OpenAI的解释


收到寡姐的控诉后,OpenAI在官方推特中给出了这样的回复:


我们收到了关于ChatGPT中声音,特别是Sky的疑问,我们正在采取措施暂停Sky的使用,直到问题被厘清。



同时,OpenAI还附上了一则官网中的声明,介绍了ChatGPT中声音的选择流程。



其中就表示,Sky并没有用寡姐的声音,而是另一名专业的演员,但出于隐私保护考虑不能透露其姓名。


甚至在早些时候,OpenAI的CTO Mira Murati还对The Verge表示,ChatGPT里的声音和寡姐并不像,而且已经使用一段时间了。



至于具体的选角流程,OpenAI介绍说是与知名的选角导演和制片人合作进行招募。


2023年5月,招募正式开始,在不到一周的时间里就收到了400多份作品。


在试镜时,演员们被要求录制包含ChatGPT回复的脚本,内容涵盖旅行规划、日常聊天等。


经过试镜之后,有14人被确定为初步人选,然后OpenAI与他们讨论了对于人机AI语音交互和OpenAI的愿景。


同时,OpenAI还向候选人介绍了该技术的功能、局限性和所涉及的风险,以及OpenAI实施的保障措施,目的是让每个演员在投入该项目之前都充分了解OpenAI的意图。


最终,OpenAI选择了最终选定了Breeze、Cove、Ember、Juniper和Sky这五个人的声音,然后在6月和7月期间,让演员们飞到旧金山进行录制,并与OpenAI产品和研究团队进行面对面的会议。


9月25日,这些声音被添加到了ChatGPT。


而至于斯嘉丽提到的“被奥特曼找过”,还在GPT-4o发布之前与自己联系的事情,OpenAI并未做出回应;针对OpenAI介绍的选角流程,斯嘉丽这边也还没有评论。


不过今年3月,OpenAI在发布声音合成引擎Voice Engine的时候,就有提到采取了措施避免克隆公众人物的声音。


而出于安全考虑,Voice Engine被雪藏了一年多之后才被正式发布。


所以,OpenAI也十分清楚,克隆名人的声音就是一个雷区,但如果这次他们真的用了寡姐的声音,事情就变得有意思了。



不过尽管有争议,但研发的脚步还得继续,OpenAI总裁Brockman仍在推特上发布着语音团队的招聘信息。


推文中,Brockman写到,OpenAI正在招募工程师扩大并安全推进多模态语音模型。



总之关于这件事,可能还要让子弹再飞一会儿。在最终结果出炉之前还是理性吃瓜,就像这位网友说的:


如果OpenAI所述为真,确实没有用寡姐的声音,那么即使她本人感到担忧,也不能把这件事称之为丑闻。



但其实,这已经不是寡姐第一次对AI企业提出控诉了。


One More Thing


去年11月,寡姐对一款名为Lisa AI的AI绘图工具采取了法律行动。


理由是Lisa未经同意使用了她的肖像和姓名拍摄了一段广告片。


广告的开头是一段寡姐在漫威电影《黑寡妇》幕后的片段,然后屏幕转变成人工智能生成的与演员相似的照片。


接着,一个模仿寡姐的假声音开始说话,对Lisa AI进行了宣传。


最终这段广告当然没有逃过被下架的结局,但和OpenAI“打擦边球”相比,Lisa AI的做法已经属于贴脸开大了。


参考链接:

[1]https://openai.com/index/how-the-voices-for-chatgpt-were-chosen/

[2]https://www.bloomberg.com/news/articles/2024-05-20/openai-to-pull-johansson-soundalike-sky-s-voice-from-chatgpt

[3]https://variety.com/2024/digital/news/scarlett-johansson-responds-shocked-angered-openai-chatgpt-her-1236011135/

[4]https://www.theverge.com/2024/5/13/24155652/chatgpt-voice-mode-gpt4o-upgrades


本文来自微信公众号:量子位(ID:QbitAI),作者:克雷西

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系 hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
打开虎嗅APP,查看全文
文集:
频道:

支持一下

赞赏

0人已赞赏

大 家 都 在 看

大 家 都 在 搜

好的内容,值得赞赏

您的赞赏金额会直接进入作者的虎嗅账号

    自定义
    支付: