智能陷阱：互联网如何利用你的心理来对付你-虎嗅网

本文来自微信公众号：APPSO（ID：appsolution），作者：吴淇，原文标题：《Google、Instagram、Twitter 前员工揭秘，互联网如何利用你的心理来对付你》，头图来自：《监视资本主义：智能陷阱》

“时间就是金钱”这句谚语，在 2011 年被拍成了科幻片《时间规划局》。电影构筑的未来世界中，“时间”完全等同于金钱，辛苦工作赚“时间”，再用“时间”买买买。

▲电影《时间规划局》（2011）

好像只会出现在科幻片的奇思妙想，却在当下以另一种形式成为现实——我们的注意力和时间，暗地里被兜售给广告商赚取金钱。但这仅仅是冰山一角，屏幕那端藏着太多见不得人的谜团。

有多少次看到广告、收到推送，会觉得手机在窃听自己的生活？

明明是悄悄关注某人，还是会毫不遗漏收到他/她的动态。亲朋好友的生日总有即时的提醒，说不定还会有礼物推荐。甚至还有一个说法，对着男友的手机多念叨自己想要的礼物，男友就会收到相关推荐。

这一切背后的秘密，都在去年 9 月 9 日上映的《监视资本主义：智能陷阱》（以下简称《智能陷阱》），这部 Netflix 高分纪录片中得到揭晓。

▲《监视资本主义：智能陷阱》海报. 图片来自：Netflix

虽然被定义为纪录片，看完这片子却不禁惊叹，纪录片还可以这样拍！

既有科幻片十足的虚构画面，又有贴合讲述的改编故事，还有借鉴剧情片的精彩剪辑。看了 app 标记后戳进去的这一段，不正是《梦之安魂曲》对毒瘾的描绘吗？

▲纪录片《监视资本主义：智能陷阱》

▲电影《梦之安魂曲》（2000）

而且还会不时来个打脸环节——那边 Facebook 创始人马克·扎克伯格刚声称“人工智能可以解决问题”，《数学杀伤性武器》（Weapons of Math Destruction）的作者 Cathy O’Neil 博士立马现身，有理有据地解释“这是骗人的”。

▲纪录片《监视资本主义：智能陷阱》中马克·扎克伯格和 Cathy O’Neil

看完片子疯狂安利的观众不在少数，在推特上搜索片名，就会看到一堆“你一定要看”、“你一定要看”、“你一定要看”……分享热情丝毫不亚于传教的狂热信徒。还有人将这部纪录片跟“开眼看世界”这个词语挂钩。

这部片子解释了远远超出为什么一分钟从 Google 搜索最佳沙发，下一分钟就会在 Facebook 信息推送中看到沙发广告这个问题。

——烂番茄上美联社马克·肯尼迪的热门评论

读完接下来的揭秘，你也有望成为另一位 Cathy O’Neil 博士，振振有词地戳穿科技大佬们的谎言。

Netflix 的高招：用科技公司如何竞争注意力的揭秘，来赢取注意力

《智能陷阱》请来很多业界核心人物，曾服务过 Facebook、Instagram、Google、YouTube、苹果、推特、火狐、Pinterest……如果主演一栏只能写上一位，那必定是前 Google 设计道德伦理学家、人道技术中心的创始人特里斯坦·哈里斯（Tristan Harris）。

▲特里斯坦·哈里斯（Tristan Harris）

聊到特里斯坦与 Netflix 的“过节”，那得回到 2017 年特里斯坦在 TED 上发表的演讲《科技公司如何控制你的注意力》，将 Netflix 作为抨击对象，还引用 Netflix CEO Reed Hastings 那段时间说过的一句话：“我们最大的对手是 Facebook， YouTube 和睡眠”。

不少人误以为 Netflix 的竞争对手是网络媒体，但他的竞争对手名单上有所有会瓜分人类注意力的事物。

这些科技公司之间的竞争，特里斯坦也给出了简单的例子——YouTube 增加自动播放下一个视频的功能，来提升用户停留的时间，Netflix 看到后也开始自动播放下一集，Facebook 发现后自动播放推送中的所有视频，连用户按下播放键的片刻也要全数扼杀。

看似简单的功能设计，背后有门不简单的学问，名叫劝服性技术。特里斯坦恰好就是这方面的天才，在谷歌工作期间他就负责这一块——名正言顺地用技术结合心理学，去左右人们的想法。

我们今天不停刷微博、淘宝的“刷”这个动作，因为“对方正在输入……”便在对话框内等待的行为，收到照片被圈、群里被 @ 之后会进入互动环节等等，都是被这群工程师精心设计过的，用来竞争用户花在自家产品上的时间。

Netflix 明明知道自己也是被抨击对象，却在揭秘上不懈努力。先在 2019 年拍了《隐私大盗》，就 Facebook 干扰川普大选、脱欧投票等政治活动进行揭秘，再在 2020 年上了这部《智能陷阱》，赚了无数观众的 94 分钟。

由科技公司主导、科技专家坐镇（阵）的《智能陷阱》，也在说服力和可信度上，给了观众一颗定心丸。

▲《智能陷阱》中的部分受访工程师

世界上最值钱的是数据，石油被挤到第二位了

特里斯坦在 TED 演讲的第一段描述非常硬核——他将屏幕那端比作控制室，里面有一群人在工作，如何去决定用户的思想和情感。《智能陷阱》则将这个如同存在于科幻片的房间，在影片里面做了出来。

在科技大咖持续讲解的同时，片子还虚构了一个受困于“智能陷阱”的家庭。其中名叫本的男孩还是一个学生，却已经是 Facebook 的重度上瘾者。他在屏幕那端，被工程师造出了一个仿若巫毒娃娃的模型。

看什么东西，看了多久，看的速度，都会被记录下来作为数据，打造越来越精准的模型。模型越精准，预判能力也会更优秀。预判能力用更通俗的话来解释，就是越来越像肚子里的蛔虫那般懂你。

我们在生活中或多或少会埋汰，身边亲近的人不懂自己。反过来思考，为什么这些平台可以这么懂我们？答案很简单，懂我们可以让它们赚钱，甚至于单靠懂我们就可以赚钱。

最有钱的公司就是技术公司，Google Docs、Facebook、亚马逊、Tesla。

这些公司成为世界上最有势力的公司，是因为去年数据在价值上超越石油。

数据是地球上最宝贵的资产。这些公司很值钱，因为他们在剥削人们的资产。

——前剑桥分析的商业发展总监布瑞特妮·凯瑟（Brittany Kaiser）在纪录片《隐私大盗》中的讲述

▲《让世界天翻地覆的数据》. 图片来自：纪录片《隐私大盗》（2019）

布瑞特妮曾经为参议员写了一个用来质询马克·扎克伯格的问题：“Facebook 的收益有多少直接来自将用户的个人数据货币化？”一旁的朋友惊呼：“全都是”。

每到年末年初的时候，朋友圈分享的那些来自网易云、豆瓣、支付宝等平台的年度报告，不正是明晃晃的证据吗？

很多这种技术公司有三个主要目标。

有一个参与度目标，增加你的使用，让你一直滑动屏幕。

有一个增长目标，让你不断回来，尽可能多地邀请朋友，让他们再邀请更多的朋友。

还有一个广告目标，确保一切按照预期发展。我们尽量多地从广告上挣钱。

每一个目标都由一个算法驱动。算法的作用是找出，给你展示什么，让数据上涨。

——特里斯坦·哈里斯

影片在个性化定制世界的摧毁中结束

有了很多很多的数据，将用户的性格剖析完毕，能够预测用户的行为，如何换取商业价值？我们终于聊到最关键的一步：个性化定制。

个性化定制表面看上去是个褒义词，像测量体型定制衣服一样，量身定做了一个专属于我们每个人的内容页，根据我们的性格、喜好以及当下的需求，推送不同的信息。

维基百科就是一个反向的例子，百度百科也是一样的道理。

当你打开一个维基百科网页，你和别人看到的东西是一样的。所以，这是网络上少有的，我们统一共享的东西。

现在想象一下，维基百科说：“我们要给每一个人不同的个性化定义，有人给我们钱，让我们这样做。”维基百科就会监视你，会计算“我要做什么，才能代表一些商业利益让这个人产生一点改变？”对吧。

然后就会改变整个词条。你能想象吗？你应该能够想象得到，因为在 Facebook 页面上，就是这样的。你的 YouTube 推送，就是这样的。

——《立刻删除你社交媒体的十个观点》作者贾伦·拉尼尔（Jaron Lanier）

即便是两个非常亲近的朋友，他们两个有着完全相同的朋友圈子，他们会认为“我们在脸书上的新推送上，会看到完全相同的信息”。但事实远非如此，他们会看到完全不同的世界，因为这是基于计算机的计算，对每一个人来说，最完美的呈现。

——特里斯坦·哈里斯

反复迭代升级后，会个性化呈现给每个人最完美的世界。这个世界里，每一个人都认同你，在收到的推送消息中，每个人都跟你极其相似。让你认同的完美世界，会在你放松警惕的时候，反过来影响你，以实现它的商业目标与价值。

因为这跟量体裁衣不一样的是，我们没有花钱，只是用户，而广告商或者政客掏钱了，他们才是客户。客户才是社交媒体的“上帝”。

在片子里面虚构的小家庭里，妈妈想让孩子们摆脱手机上瘾的状态，但都失败了。

女孩艾拉砸碎锁住手机的玻璃罐，拿到房间里面自拍、修图、等点赞。点赞太少便删掉再拍、再修图、再发布。渐渐地，她开始无法接受自己真实的模样。

我们制作“点赞”按钮的时候，我们全部的动机是“我们可以在世界中传播积极和爱吗？”

时间快进到当下，青少年会因为没有得到足够多的点赞而抑郁。

这个想法或者或导致政治两极分化，当时是完全无法想象的。

——前 Facebook、Google 工程师、Asana 联合创始人 Justin Rosenstein

男孩本在放下手机的空虚三天后，重新沉迷到了社交网络中。之后，他还被推送的阴谋论信息所影响，因为人工智能会为了吸引人注意不惜推送虚假消息，直至在抗议集会中被捕。