出品 | 虎嗅青年文化组

作者 | 木子童

编辑、制图丨渣渣郡

题图丨《韦莱斯之书》

本文首发于虎嗅年轻内容公众号“那個NG”（ID：huxiu4youth）。在这里，我们呈现当下年轻人的面貌、故事和态度。

如果你自认为对新闻的真假多少还有些辨识能力，那么不妨来试试看下面这组图片。

5张图片里有正常实拍，有人工建模，你是否能分辨出几假几真？

答案是四假一真，只有最后一张是毫无加工的真实图片。其他图片中的人物和场景关系都来自3D建模，纯纯的虚构作品。

有点困难？无需沮丧。

别说是你，就算是专业新闻摄影师都不一定有能力区分。

不久前，一本由以上假图构成的假新闻书刚刚骗过了全球最顶尖的一批新闻摄影记者，并因此捧回一座荷赛奖（世界新闻摄影比赛）。

《韦莱斯之书》获得荷赛奖欧洲大区的“开放形式奖项”

在出版后长达6个月的时间里，包括专业摄影大赛评委在内的所有读者，没有一个人发现这本书的内容纯属捏造，甚至当作者买通小号揭露自己造假的事实时，读者还主动跳出来为他辩护。

这就是挪威摄影师Jonas Bendiksen的《韦莱斯之书》（The Book of Veles）。

在《韦莱斯之书》的可视化“图灵实验”里，人类全军覆没。

Jonas Bendiksen其实从没想过，这场恶作剧能维持如此之久。

作为一名已经拿过2次荷赛奖的马格南摄影师，关注世界角落的新闻现场是他的日常工作。

摄影师Jonas Bendiksen，生于1977年

起初，他只是想去北马其顿世界闻名的假新闻制造重镇韦莱斯市，拍一拍这里正在生产假新闻的青年。

事情到这里，还不掺杂一丝虚假——虽然要讲述的是假新闻制造故事，但这件事却是真是无虚的。已经有BuzzFeed、The Guardian等许多媒体报道过韦莱斯市的假新闻是如何帮助特朗普在信息战中拉开身位，从而赢得2016年的美国大选。

只要老老实实沿着这条路子把照片拍完出版，就又是一部合格的纪实摄影作品。

BuzzFeed：巴尔干半岛的青少年如何用假新闻欺骗特朗普的支持者

但当Bendiksen开始调查韦莱斯市名字的由来时，一个讨厌而又令人兴奋的计划突然浮上心头。

他发现，韦莱斯市得名于一位斯拉夫原始自然宗教神祗“韦莱斯神”（Veles）。

只要提起韦莱斯神的名字，你就能从历史长河里拎起一长传有关谎言与欺骗的连锁。

这位神祗是混沌、魔法和欺骗之神，常常变成熊或牛的形象，游荡在山野之间，堪称“斯拉夫版洛基”。

作为斯拉夫民族国家少有的、能广泛找到祭祀痕迹的原始神祗，有关他的经文曾经是斯拉夫民族主义圈子里重要的寻根文本。

长久以来，如何在文本上确认本民族在七八世纪时的生活与信仰情况，都是令斯拉夫人苦恼的事情。直到1919年，俄罗斯军官Fyodor Izenbek意外发现镌刻着《韦莱斯书》（Veles Book）的神秘木板。

经过数年破译，人们发现这本经书记载的正是斯拉夫人孜孜以求的早期斯拉夫民族史诗故事。他们如获至宝，立刻把《韦莱斯书》请进博物馆和课堂，并把它编入小学课本。

但几十年后，更多的研究者在分析后发现，《韦莱斯书》可能并不存在，它只是上世纪特殊的政治环境下，被精心炮制出来的一部伪经。

韦莱斯。

一位以谎言之书闻名的谎言之神，一座以谎言之神命名的造谎小城。

Bendiksen被这冥冥中似有定数的互文感击中，他决定用自己的作品，为这套谎言九连环再续一环——做一本有关韦莱斯的假新闻书。

在马格南通讯社的采访中他介绍道：为此他首先在YouTube上快速学习了一下电脑游戏和电影行业常用的3D人物建模软件，然后购买了一些人物原型，并用不同的服装和细节，创建了一系列原创角色。

“我在这些数字角色的虚拟服装上花的钱，大约是过去几年我在自己衣橱上花费的 10 倍。”

Bendiksen展示的人物建模过程

演员就位，接下来是搭建场景。

Bendiksen带上相机，启程前往韦莱斯市，随手拍摄公园、工厂、办公室，一切令他感兴趣的场景，并用特殊的360度相机记录下特定场景的特定光线条件。

在电脑上，他将这些照片转换为3D空间，再请准备好的“建模演员”进入舞台，根据原始场景调整它们的情绪、姿势和灯光。

最后按下回车键，啪，一张优秀而情绪饱满的新闻图片就制作完成了。

这张图片中的三个人物，就是上图建模中的角色，你看出来了吗？

不只人物是假的，书中看似来自现场访谈的文字，也没有一句真话。

“网络空间没有道德准则。网络空间对于每个有台电脑的人来说，都是敞开的。”

“我们没有做任何违法的事情。难道你不会想分享这些新闻吗？我不关心这些内容是真是假，重要的是，人们相信他们正在看的这些东西。”

这些直接引语般的“慧言慧语”，全部由AI自动生成。

而且不是多么昂贵的实验室级别AI，只是一个网上随便就可以搜到的免费可训练文本创建系统。

这个叫做GPT-2的系统已经在数百万个真实网站上完成了初步训练，就像一只已经完成基础抹面的奶油蛋糕，你可以在此基础上继续创作，给它投喂特定文本，让它形成你所需要的特定文本风格。

GPT-2的介绍页面

Bendiksen找来英语媒体中所有关于韦莱斯假新闻制造业的报道，以及他在韦莱斯当地取得的采访资料，统统输入系统。

然后拿着系统输出的5000字文本，挑挑拣拣，换位粘贴，就形成了现在《韦莱斯之书》中我们所看到的文字。

《突发：普京刚刚宣布一项针对乔治·索罗斯的国际通缉令，他想要索罗斯的老命或者……》

“我一个字也没写。”Bendiksen得意道。

就连大段的伪经《韦莱斯书》，也是AI的胡编乱造。

“我把整本《韦莱斯书》都输入了AI，瞧，于是我就有了无数计算机发明的‘古经文’可以填空。”

左侧为Bendiksen利用AI伪造的《韦莱斯书》虚假经文

就是这么轻松写意。

创作《韦莱斯之书》的1年里，Bendiksen只实地到访过韦莱斯市两次，其他时间都是闷在家里对着电脑“闭门造册”。

2021年4月，《韦莱斯之书》在英国正式出版。

鉴于整个制作过程并没有动用什么高精尖技术，只是一个半吊子3D建模师的初学作品，Bendiksen早已做好很快被同行拆穿的准备。

“通常情况下，我的马格南同事都是非常敏锐的，他们总是能一眼就看穿那些造了假的垃圾。”

然而这一次，马格南摄影师的鹰眼却集体失了灵。

他们毫不吝啬地对Bendiksen的新作大加赞许，没有人质疑为什么这些照片看起来那么黑暗、阴沉，充满粗糙的颗粒感。

2021年8月，《韦莱斯之书》的真相揭晓前，马格南官方推特账号还在热情推荐这本假书，现在这篇推荐文章已经无法检索到了

买到新书的读者也给出了极为热情的反馈，他们称赞Bendiksen提供了有趣和具有启发性的内容，并把《韦莱斯之书》转发到Instagram上评论道：

“幸好这个时代，还有人在做韦莱斯故事这样的严肃新闻。”

另一位读者在推特上对《韦莱斯之书》表示赞扬

或许名人的背书效应真的远比我们想象得还要强大，从4月到9月的整整6个月里，可疑的《韦莱斯之书》没有收到哪怕一星半点的质疑。

Bendiksen接连收到不同媒体的约稿，希望能够转载他的作品。

他几乎不敢置信，竟然真的没有人识破他拙劣的小小谎言。于是他决定给《韦莱斯之书》，也是给整个新闻摄影行业来一场更可怕的终极测试。

他报名了在业界享有盛名的法国佩皮尼昂国际新闻摄影节（Visa Pour l'Image），并给主办方发去了全书所有图片的超高清全分辨率PDF。

Bendiksen希望“每年必须从海量图片中遴选出年度最佳作品的策展人”能够鉴别出这些计算机生成的虚假图片，但结果事与愿违，他反而收到了佩皮尼昂摄影节的夜间展映邀请。

佩皮尼昂国际新闻摄影节上，该作品正在展映

《韦莱斯之书》并非无懈可击，相反，它其实非常可疑。

就像传说古代制造赝品的工匠，总会给后来人留下一点隐秘的提示，Bendiksen在《韦莱斯之书》中也安排了许多破绽与暗示。

他在很多图片中都加入了熊的元素，仿佛在韦莱斯市荒败的街巷，你随时可能跟这些大型食肉动物来个正面遭遇。

其实仔细想想，这多少有些不符合常理，就算韦莱斯已经是个破落的工业城市残魂，但好歹也是有人居住的市镇，怎么可能随便允许熊类在城镇周围游荡。

而且韦莱斯附近几乎没有成规模的山林，并不适合熊类栖息。

韦莱斯市及其周边的卫星图像

熊的出现只有一个目的：暗示谎言之神韦莱斯已经悄然化身为熊，潜入书页之间。

下图的人形模特中，也藏着同样的破绽。

假人脖子上挂着一条项链，项链是一个呈倒A状的双横杠符号。

这个符号正是“韦莱斯神之印”，象征镇静祛邪，保佑森林里迷途的人踏上正确的归途。

左侧书页留白，没有安排任何干扰视线的文字，假人挑起一边眉头，似乎在挑衅画面外的读者：你难道没感觉有什么不对劲吗？

在前面几页中，《韦莱斯之书》有介绍过这个符号

甚至只要搜一搜维基百科就能发现，所谓的古经文驴唇不对马嘴，就连《韦莱斯书》的维基截图都是加工后的产物。

《韦莱斯之书》中添加了一句维基百科里没有的、完全错误的解说

如果带着怀疑的眼光去看，你会发现书中处处都是疑点。

但现实却是，Bendiksen洒了一地的面包屑，却没有一个人弯腰去捡。

最后，Bendiksen不得不花40美刀买下一个小号自黑。

他操纵这位名叫@Chloe Miskin的女士质疑道：

“我就来自韦莱斯镇，我在佩皮尼昂新闻摄影节看到了《韦莱斯之书》。这份报告有些地方非常不对劲，我知道其中的一些内幕。我百分百确定他这些图片里出现的没有一个是真的假新闻制造者。”

并暗示书中出现人物都是Bendiksen花钱雇来的演员。

以@Chloe Miskin为名的Facebook小号

结果出乎Bendiksen意料，他的摄影师朋友们听说这条质疑后，不仅没有相信并展开调查，反而还自动自觉地开始替他辩护。

直到一名叫做@duckrabbit的摄影师指出，Bendiksen小号的个人资料介绍页里，女主角的衣着和《韦莱斯之书》中的某个女性受访者完全相同，这场恶作剧诈骗案才算终于告破。

当@duckrabbit提出问题，Bendiksen简直高兴坏了，6个月来，在百般暗示下，终于有人识破他的诡计。他迫不及待地跳出来承认一切，并对马格南通讯社细致地坦白了全过程：

“感谢@duckrabbit，让我终于可以重新做回一个诚实的好市民。”

@duckrabbit回应他道：我就是假新闻摄影记者的终结者

《韦莱斯之书》的故事向我们证明了，当下我们有多么容易轻信假新闻，以及制作假新闻的成本有多低廉。

而接下来韦莱斯市的故事将告诉你，制造假新闻这门生意有多暴利、影响力有多惊人。

很多人认为，正是北马其顿这撮十几二十岁的假新闻制造者，在2016年美国大选期间，煽动了特朗普阵营的狂热情绪，将这任美国史上最离经叛道的总统拱上了执政舞台。

实际上，韦斯莱市的年轻人一直开玩笑说，“我们应该给特朗普立一座纪念碑，他就是我们的财神爷”。

这座失落的前工业小城自从支柱产业衰落后，一直在行将就木的困境中挣扎。自从1991年南斯拉夫解体，这里除了一座剧院，再没有兴建过任何公共建筑。

失业率高达近四分之一，年轻人找不到就业机会，人们就算外出务工都找不到体面的赚钱营生，就在前些年，韦莱斯人还是“法兰克福黑手党”的代名词。

在韦莱斯市随手一拍，就能拍出一股子废弃游乐园似的阴森和忧郁，腐败政府所说的话一个字也没法相信，这里的年轻人对未来毫无指望且极度迷茫。

直到他们中的有些人人突然发现了假新闻这门生意。

韦莱斯造假作坊的运作模式非常简单：

建立一个新闻网站，编辑一些假新闻塞进去，给它们起个诱人的标题，然后把标题发布在Facebook上引流。

被引来的每一次用户点击，都会通过谷歌广告形成收入，一分一毫，积少成多，只要你的点击量够多，就能获得极为可观的收益。

CNN纪录片：This fake news machine gears up for 2020

据BuzzFeed报道，一个成功的韦莱斯市假新闻制造者每月能赚5000美元，流量最高的时候，一天就能到手三千。

这些造假小作坊里，即使是最低端的工种，每月也可以拿到350至500欧元的报酬，而一名北马其顿国家电视台的记者，一个月工资不过才300欧元。

正如《韦莱斯之书》中一句假采访所说：

“我们这儿没有什么工作比做这个赚得更多。它确实不是什么正经工作，但它是实实在在的钱。”

这些网站的运营者大多是头脑灵活的年轻人，很多人最开始运营网站，只是想赚点外快，给自己攒出一份上大学的启动资金。

但很快他们发现，这份工作是如此暴利，以至于佼佼者完全可以赚到同辈人可能一辈子也赚不到的大钱，渐渐的，没人再提起攒够钱去上大学的梦想，一个个转为全职，埋头苦干。

CNN纪录片：This fake news machine gears up for 2020

据The Guardian统计，2016年当时，至少有140多个有据可查的韦莱斯假新闻网站在运营，他们中包含7个大型团队，和数百名单打独斗的独行侠。

但韦莱斯当地造假者认为，实际假新闻网站的数量远超这一统计：

“这里有 50% 的年轻人参与了这些网站。我估计在美国大选期间我们有 3000-5000 个活跃的网站参与其中。”

一名网页设计师也透露，2015-2016年间，他至少担纲设计了300家假新闻网站，制造假新闻，在这座只有46000多人口的小城中，已经成为一门显学。

CNN纪录片：This fake news machine gears up for 2020

有些阴谋论说，韦莱斯人在美国大选期间发布大量有利于特朗普的虚假信息，是“外部势力”介入的结果。

但在韦莱斯人看来，哪有什么外力，起作用的只有money。

不然你很难说清，为啥来自美国的“外部势力”非要跑到北马其顿去搞一个假新闻基地，要知道，这地方的官方语言是斯拉夫马其顿语，大部分人连英语都说不流利。

发布假新闻，因为假新闻的受众永远比真新闻的多。

选择Facebook引流，因为Facebook的用户点击价值是其他平台的四倍。

选择美国，因为美国用户的点击价值全球最高。

专写特朗普，因为有利于特朗普的新闻远比左倾新闻能带来更多点击。

说到底，一切都是经济导向。

CNN纪录片：This fake news machine gears up for 2020

制作假新闻，实在是门一本万利的生意。

你只需要每天刷一刷美国右翼网站那些离谱的新闻，然后给他们精简改写，换个更加耸人惊闻的标题，就可以准备坐收美国政治斗争的渔利。

《希拉里·克林顿在2013年：“我希望看到像特朗普这样的人竞选公职，他们是诚实的，不能被收买。”》

 

《迈克·彭思称：米歇尔奥巴马是“我们所拥有的最粗俗的第一夫人”》

 

《教皇声称支持特朗普》

韦莱斯青年坐在自己破旧的电脑桌前，冷冷地注视着大洋彼岸如火如荼的民众情绪，以最事不关己的心态，编织出一条条最牵动人心的谎言。

改编者甚至一边改写一边还会吐槽：“这种离谱的消息有人会信吗？人要蠢到什么程度才会相信这些消息？我们从小受政府骗的北马其顿人可不会相信，我甚至觉得，如果他们真的认为这是事实，那这就是他们活该受到的惩罚。”

这段话在《韦莱斯之书》中被AI改写为：“如果那些政治家能蠢到允许这种东西存在，那么或许他们就是活该（受假新闻所害）。”

他们从不认为自己有错，相反他们坚信：赚钱是我的本事，相信是你的无能。

就像一群嗜血的佣兵，韦莱斯人没有政治立场，只有经济主张。2016年时，他们中的大多数人甚至不认为特朗普会赢得选举，已经做好准备，当特朗普落选，流量盛宴散场，就把假新闻网站转做体育和健康。

结果特朗普意外胜选，又多带来了4年流量红利，但韦莱斯人对未来并没有什么期待。他们仍然觉得，这只是一笔快钱，就像春季洄游的鲟鱼，终有一天会消失得了无踪迹。

于是他们把这笔钱全部扔在了今天，这些年，韦莱斯最发达的产业就是夜店和酒吧，来自美国的绿色钞票，很快转变成豪车与美酒，转瞬又流回了全球资本链条。

在国际社会意识到这群年轻人带来的蝴蝶效应后，韦斯莱市很快成为舆论谴责的中心。

《自然》的一篇研究显示，一条选举日的Facebook热文，可以导致340000人份的额外投票。因此北马其顿这些只想赚钱买酒的年轻人，毫无疑问影响了美国本该公平公正的国内事务。

根据纽约客报道，当时就连奥巴马也在热切地和幕僚讨论，这座小城在Facebook所造成的“疯狂阴谋论”现象。

世界各地的记者纷纷跑来韦莱斯镇，试图听取这里执政者对给国际局势带来麻烦的忏悔。

但韦莱斯市长Slavsho Chadiev却颇以此为傲，他认为，是假新闻使小小的韦莱斯在世界地图上拥有了姓名。

“他们在本国法律框架内，没有做任何违法的事情。”

“政治里哪有道德？有道德的还能叫政治？”

“这只是条真正能赚快钱的路而已，就像你们所说的‘美国梦’一样。”

CNN纪录片：This fake news machine gears up for 2020

今时今日，仅凭肉眼辨别一条假新闻，几乎已经成了一件不可能的任务。

虽说人工智能技术离科幻电影里的真正智脑还差着十万八千里，但经过严格训练的AI糊弄个普通人类倒是越来越驾轻就熟。

新闻本就是所有文本中最容易被模仿的文体之一，它强调理性、摒弃感性的行文特征，正是AI的强项。

这种用营销号生成器生成的文本，每个AI都可以随便整出几百万条

与此同时，图像造假技术的门槛越来越低，逼真度却越来越高。

在一家名叫“这个人并不存在”的网站上，你每刷新一次，就能看到一位普通人的面孔，他们脸上有皱纹、雀斑、粗大的毛孔，甚至是微妙的情绪，就像每一张饱经岁月沧桑的人类面庞。但他们并不存在于世间，只是AI制造的电子产物。

在这些面容中，你甚至感受不到虚拟偶像常常带来的恐怖谷效应。

不使用图片反搜等技术手段，即使是一名专业的摄影师，恐怕也会像面对《韦莱斯之书》时一样，陷入完全无从分辨的窘境。

如果不是机器露出了马脚，你能认出这位女士并非真人吗？

造假的成本越来越低，假新闻的逼真度越来越高，这难免令人担忧，是否今后我们的信息世界将被劣币驱逐良币，最终完全由假新闻笼罩？

但其实冷静下来想一想，纵观历史，假新闻从未缺席。

从朱允炆避难远下南洋，到风靡几个世纪一直流传至今的水猴子传说，每个时代都能拎出几个世人皆知的假新闻。

就像街头巷尾三姑六婆没影儿的八卦，时刻丰富着人民群众的社交与娱乐生活。

@无穷小亮在视频中展示上世纪中叶我国水猴子谣言覆盖范围

怎么偏到今天，我们开始为假新闻焦虑到抓心挠肝了呢？

或许是因为网络时代骤然膨胀的信息流，让接触到假新闻的机会与频率水涨船高，一下子拉高了这位“老朋友”的存在感。

感官上，假新闻正在社交媒体无可阻止地泛滥，反复的辟谣与反辟谣令人疲惫不堪。

我们习惯将这一切归咎于网络新技术的潘多拉之盒，谴责一味追求流量的算法带毁了严肃新闻。

诚然，新技术和新事物的出现总是在改变世界，世界在改变的初期也总是难免应激。

就像古登堡印刷机带火了马丁路德“离经叛道”的小册子，17世纪兴起的咖啡馆改变了城市人的公共交流空间。

它们都曾遭遇时人严厉的批判，前者被教皇勒令禁售，后者被指责像网吧一样分散了人们工作和学习的专心。

但时至今日，当这些革新早已变成日常，我们发现，错的从来不是技术，而是思维没能跟上技术脚步的人。

一味地怪罪技术，只会让我们忽略技术背后，那些真正该被注意的东西。

从前，以大众传媒为权威信息源，相信传统的采编机制能够在某种程度上为我们能带来可靠的信息。

进入社交媒体时代，推送信息的权力骤然被让渡给统御一切的算法，大众传媒的权威，也随之被下放到社交平台。

海量没有经过筛选、验证的信息被丢到我们面前，让我们在获得新闻自由的同时，也不得不面对一个难题——你需要学会从前那些新闻编辑才需要掌握的技能，懂得如何在海量的信息中区分轻重、辨别真伪。

别以为辨别新闻是件简单的事情，斯坦福大学2017年的一项研究指出，要完成这份工作，需要极高的专业素养。

研究人员随即抽选了10名拥有博士学位的历史学家、25名斯坦福大学本科生以及10名专业事实核查员，对他们在网络上辨别社会政治新闻的能力进行了评估。

结果出人意料，只有专业事实核查员通过了假新闻的考验，斯坦福本科生和历史学家都陷入了假新闻的迷阵。

研究人员发现，本科生和历史学家都倾向于信赖具有“权威相”的网站，并以该权威作为主要信息源来做出判断，而事实核查员则会在短时间内浏览同个议题下尽可能多的信源，综合各信源得出结论。

相比于普通人，事实核查员会运用图片反搜、时间反溯等多种手法，同时更少地被情绪性新闻带偏节奏。

这番操作当然要比直愣愣的阅读麻烦很多，过度的理性也会让我们丧失很多观看离谱假新闻时荒唐的乐趣。

但这正是自由的代价，没有人能在获得自由的同时，免于背负同等的责任。

这或许也是《韦莱斯之书》最想告诉我们的一条社交媒体时代真理：

新闻的“真相”从来不是别人给的，而是手握海量信息的你自己的判断。