正确的提示信息

扫码打开虎嗅APP

从思考到创造
打开APP
搜索历史
删除
完成
全部删除
热搜词
2024-11-13 19:20

Ins排名第一的网红餐厅:一切都好,只是不存在

本文来自微信公众号:极客公园 (ID:geekpark),作者:Xin Ling,编辑:郑玄,原文标题:《INS 排名第一的网红餐厅:有美食照、有故事、有好评,只是没有这个餐厅》,题图来自:AI生成


近日,Instagram上一家名为Ethos的餐厅火了。这家餐厅在网页上的展示非常“高大上”:食物精美,用餐环境一流,还有名流大佬为你调酒。凭借这些展示,Ethos得到了成千上万个网友的点赞和追捧,在Instagram上吸引了7.2万名粉丝,成为奥斯汀排名第一的餐厅。


这看起来很正常,直到被a16z投资人贾斯汀·摩尔指出:这家“餐厅”根本不存在,Ethos在Instagram上发布的食客自拍、留言、厨师介绍以及餐厅介绍全部由AI生成。


目前尚不知道这场闹剧的始作俑者,也就无法探究其背后动机到底是出于一场社会实验、恶搞,还是存有更多的经济、利益目的。但这件事依然给公众敲响了警钟:从DeepFake色情门、到明星AI换脸、雷军骂人事件,以及刚刚结束的美国大选期间层出不穷的AI生成假图片、假新闻……


生成式AI快速发展的当下,AI造假正在以各种各样无法预料的形式占领社交媒体。相比于过去移花接木式的假新闻,AI生成的内容更加真实,普通人更加难以分辨,同时造假成本和门槛却更低。而要维持社交平台的真实性,需要社交平台做更多的工作。


一家不存在的餐厅


Ethos是Instagram上一家餐厅的账号。点开账号,里面的食物极具创意且十分诱人。芝士蛋糕上铺着流淌着新鲜蜂蜜的蜂巢,焦脆的洋葱圈外环印着滕瓦尔语撰写的“one ring to rule them all”,仿佛中土世界的至尊魔戒。还有各种奇妙造型的美食,比如把奶酪片和生菜扎成一袭抹胸裙,草莓做的糖果小屋,恐龙形态的“牛角包”。


图片来源:Ethos 餐厅 Instgram 账号


账号里不仅有精致而富有巧思的食物,用餐环境也很神奇。根据介绍,餐厅提供“泡澡寿司”服务,食客竟然可以一边泡澡一边吃水上漂来的寿司,而厨师会和食客一起泡在巨大的浴缸里,亲手制作每一件寿司。帖子下面还有对此的“真实”评论:“上周我们不得不缩短omakase时间,因为有人在寿司热水浴缸里弄脏了自己。管理人员很通情达理,还免费给我们送了一杯香槟。”


这家神奇的餐厅人脉还非常强大。有一篇帖子是关于亚马逊首席执行官杰夫·贝佐斯在酒吧提供鸡尾酒服务。图片介绍称因为餐厅厨师和贝佐斯恰好是朋友,所以来到这家餐厅食客,将有机会品尝到贝佐斯亲自调制的鸡尾酒。


Ethos凭借别具匠心的食物和服务,在Ins上逐渐积累起7.2w粉丝的关注。良好的用户留言与反馈,则让其成为奥斯汀排名第一的餐厅


正当网友惊叹于这家餐厅之奇特时,硅谷风险投资公司Andreessen Horowitz的合伙人贾斯汀·摩尔(Justine Moore)看穿了真相,在社交媒体上发布了她的发现:这家名为Ethos的餐厅自称是一家位于德克萨斯州奥斯汀的高档餐厅,餐厅社交媒体帐户拥有数万名关注者,并且带有蓝色认证标记。然而,事实上,这家餐厅并不存在,网站上的所有信息都是由人工智能生成的。目前还不清楚是谁在运营Ethos账号。


图片来源:“X”截图


在相关平台上为餐厅美化图片、刷好评,这事并不新鲜。在生成式AI技术的时代到来之前,商家雇水军刷评论或者好评返现就能实现。如今随着技术升级,不仅p图、刷评论都省了,甚至“创造”一家餐厅可以直接通过AI完成。


生成式AI作为一项技术并没有好坏之分,在帮助我们更好地创作时会给人们带来乐趣,如果使用不当,则会使我们的创造能力得到退化,甚至造成恶劣的社会影响。


技术滥用,平台有责


AI技术的发展已经让我们的生活迈入到了“生成”时代。视频生成的头部创业公司Runway的CEO Cristóbal Valenzuela在最近的一封公开信中对此阐述道:“就像相机改变了我们捕捉现实的方式,AI也正在改变我们创造现实的方式。”


Cristóbal Valenzuela站在AI创作的角度,对未来的内容和媒体作出了美好的畅想:“模拟世界,让内容能够实时自我塑造,才能消解创造与分发之间的界限。这不仅是构建全新媒体景观的基础,也将从根本上重新定义媒体:它既是互动的、生成性的、个性化的,同时又是共享和普遍的。”


这里要厘清一个概念,Cristóbal Valenzuela所传达的,是说生成式AI的使用可以帮助人们更好地创作,而不是替代创作本身。


例如Runway一直在推动生成式AI创意的边界,其推出的Gen-3 Alpha,能够从简单的提示词生成高质量视频。这就把创作者从需要使用各种复杂的制作工具中解放出来,大大降低人们创作的门槛,真正释放人们讲好故事的创意能力。


因此,AI替代的是“生成”部分,而不是“创作”部分。如果意图在创作部分使用AI,会造成过分依赖AI,令人在创意上产生惰性,同时也抹杀了“人”在内容创作中自然带来的温度与情绪。


例如某外卖平台最近上线的新功能里,用户可以用图文形式发布自己购买过的外卖订单,帮助其他用户发现优质的商品和商家。发布过程中,平台提供了“AI帮你写”功能,让用户可以使用AI技术一键生成文案。这一功能,虽然看似降低了用户的创作门槛,但是在实际体验中,让创作过程完全消失,内容的社交真实感也因此大打折扣。


因此,平台需要在恰当的环节为人们提供AI技术能力的帮助,而不是粗暴地让AI帮助造假。


此外,对于那些出于某种目的,在平台上使用并传播AI造假内容的行为,平台也负有去伪存真的鉴别与清理责任。本文提到的这家不存在的餐厅只是一条漏网之鱼。在今年的美国大选期间,Facebook平台上虚假图片的传播产生了更恶劣的影响。


在刚刚结束的美国大选,Facebook、Instagram等社交媒体作为党派发表政见、吸引选民投票的重要平台,成为AI生成图片泛滥之地。极客公园最近发布的文章《比飓风更可怕的,是一张AI生成图片》中就提到,在碎片化的社交媒体平台,政客们随意使用AI生成的照片来宣传政见,攻击对手。感性的印象取代客观事实,“造谣一张嘴,辟谣跑断腿”的传播学原理在AI时代更猛烈地回响着。


美国Pew Research最近的一项调查发现,66%的美国人表示,他们“至少有时”会遇到被篡改或者完全虚构的内容;63%的人表示,捏造或更改的图像或视频会导致人们对于时事的“认知混乱”。


在AI生成内容的时代,内容的真实性和可信度受到了极大的挑战。对于这些社交平台来说,用户对平台的信任是其最大的资产。如果平台不引导大家往正确方向去使用,放纵虚假信息的传播,当用户有一天对平台失去信任的时候,平台将被反噬,变得毫无价值。


平台:已经行动,仍需努力


事实上,针对日益泛滥的AI内容,Meta这样的平台企业已经开始采取行动。


Meta的最高政策主管曾在今年二月表示,该公司将在未来几个月开始使用一套内置在文件中的隐形标记,检测和标记其他公司的人工智能服务生成的图像。


Meta全球事务总裁Nick Clegg在一篇博客文章中写道,公司将对发布在Facebook、Instagram和Threads服务上的任何带有标记的内容应用这些标签,以向用户表明,这些图像——在很多情况下类似于真实照片——实际上是数字创作。


Clegg表示,一旦新系统启动并运行,Meta将对OpenAI、微软、Adobe、Midtravel、Shutterstock和谷歌运营的服务上创建的图像进行同样的处理。


值得注意的是,该行动开始于今年二月份,这家名叫Ethos的餐厅一直在Instagram上火到了十月份才被揭破身份,而美国大选期间Facebook上的假图片也没有被第一时间识别清理。


Meta在上周刚刚发布的财报中多次强调,公司本季度社交“应用家族”部分的广告收入增长19%,主要归功于AI技术的应用。很显然,AI为Meta带来可观的收入,但是在为用户提供足够清朗的社交环境方面,Meta仍需努力。


本文来自微信公众号:极客公园 (ID:geekpark),作者:Xin Ling,编辑:郑玄

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系 hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
打开虎嗅APP,查看全文
频道:

支持一下

赞赏

0人已赞赏

大 家 都 在 看

大 家 都 在 搜

好的内容,值得赞赏

您的赞赏金额会直接进入作者的虎嗅账号

    自定义
    支付: