一键“脱衣”的AI，为什么屡禁不止？

本文来自微信公众号：大数据文摘（ID：BigDataDigest），作者：lin、miggy，原文标题：《一键“脱衣”的DeepNude重现！病毒式传播，裸照生成仅1.5美元，68万女性受害》，题图来自：视觉中国

你在社交网络po出了一张自拍照，坐等收赞。但你不知道的是，这张照片可能会被偷偷下载，并且变成一张你的“裸照”。

这张裸照或许将被私下分享，也很可能会在地球另一端的某个社交网络上出现。在不知情的情况下，超过68万多名女性的假裸照正在以这种方式产生并传播。

近期，总部位于阿姆斯特丹的视觉安全智能公司Sensity发现了一个Telegram上的应用（文摘菌决定不透露这个机器人应用的名字，文章中用bot指称），这个bot可以通过deepfake程序，创建某个受害者的计算机生成的“裸照”，并且值得一提的是，只用一张照片，生成效果就相当逼真。

据Sensity报告显示，目前这个bot已经产生了68万多名女性的假裸照，大约有104,852张女性照片目前被公开发布在这款应用上，其中70%的照片来自社交媒体或私人渠道。这些受害者中有一小部分似乎是未成年人。研究人员说，其余的照片可能是私下分享的。

这款bot的使用者还在Telegram上成立了社区。目前这个社区已经有101,080名成员了，其中70%居住在俄罗斯或东欧。

DeepNude 2.0再现，只需要一张照片，就能生成逼真“裸照”

这款bot的运作方式相当简单，不像之前deepfake需要多张照片训练算法，只需要一张照片，就能获取到比较逼真的“裸照”。

Sensity在报告中详细介绍了bot一键生成裸照并分享的步骤

一键“脱衣”，这听起来是不是有点耳熟。

其实早在去年，就有这样一款类似的AI偏门应用爆出，一键直接“脱掉”女性的衣服！

海外媒体Motherboard测试图片

显然，已经不能叫做擦边球的应用了。

这是一款名为DeepNude的应用，次标题被称为“AI X光”，只需要给它一张照片，即可借助神经网络技术，自动“脱掉”衣服。原理虽然理解门槛高，但是应用起来却毫不费力，因为对于使用者来说，无需任何技术知识，一键即可获取。

DeepNude比以前的deepfakes软件更容易使用，也更容易访问。对比deepfakes需要大量的技术专业知识、庞大的数据集以及昂贵的GPU，DeepNude是一款面向消费者的应用程序，比大多数视频游戏更容易安装，只需点击一下即可在30秒内产生裸体图片。

DeepNude的创建者阿尔贝托（Alberto）曾表示，该软件由开源算法pix2pix创建，训练数据仅为1万张女性裸图。这一算法与之前的人工智能换脸技术deepfake算法相似，也和无人车技术所使用的算法相似。

之前这款应用提供客户端版和网页版，你可以选择支付50美元付费使用，也可以选择使用免费版，区别是免费版获得的图片会出现较大水印。

可能由于太过受“欢迎”，也引起了舆论的极大争议，上线不到一周，这一应用已经宕机，DeepNude官方推特也表示已经将其下线。

没想到，在DeepNude下线后的同一个月，这款应用就在Telegram上就出现了。

Sensity首席执行官兼首席科学家乔治·帕特里尼（Giorgio Patrini）表示：“这款工具的独特之处在于，它不只是人们在聊天或分享内容，它实际上嵌入了Telegram，这就让它的使用门槛更低了。”

与制作deepfake的算法不同，Telegram机器人不需要数千张图片就能工作。帕特里尼说：“这就是为什么那么多的个人隐私会受到攻击的原因，因为只有一张来自Facebook的个人资料照片就足以做到这一点。”

相比Deepnude，这款机器人进一步升级的一点是，它上传的照片多数是毫不知情的普通女性，而不只是名人。

正如帕特里尼说：“一旦你分享了自己的图片或视频，也许你意识不到这些内容谁可以看到，谁可以窃取，谁可以在你不知道的情况下下载，这实际上让所有人都承载着被侵害的可能。”

只针对女性，每张照片处理1.5美元，用户一年翻四倍

该工具允许人们在手机上上传照片，bot远程生成图片后发回给用户。这个机器人只对女性图像进行处理，它可以免费提供带有水印的图像，也可以提供没有水印的图像，收费约为1.5美元。用户也可以通过介绍他人使用这项服务来赚钱。

这款bot还在VK网站上发布了广告，据查看，在该网站上目前已经有了380页的搜索量。

这种病毒式的扩张方式，让这款bot的会员迅速增长。据Sensity的报告称，这款bot是在去年6月上线的，上线两个月用户几乎过万，到今年6月，已经有了4.5万用户。目前，使用该机器人的7个Telegram频道共吸引了103585名用户，其中人数最多的频道有45615人。

根据Sensity的说法，“报告中所述调查期间发现的所有敏感数据均已向Telegram、（俄罗斯社交媒体网站）VK和相关执法部门披露。“

帕特里尼指出，这种“色情机器人”显然是违反了Telegram的服务条款的，而发布相关广告的网站VK实际上也有规定，不允许在该平台上发布此类内容或链接，并封锁发布这些内容的社区。

这些社区或链接是如何在Telegram和vk上推广的还不得而知。Sensity称，“在本报告发表时，我们还没有收到来自Telegram或VK的任何回应。”

帕特里尼说：“这就是这种技术成为商品的现象。”“不需要技术技能，不需要专门的硬件，不需要特殊的基础设施，也不需要难以获得的特定服务。”

《如何输掉信息战》（How to Lose the Information War）一书的作者尼娜·扬科维茨（Nina Jankowicz）表示，这款应用对世界各地的女性都有巨大的影响，尤其是在社会较为保守的国家，比如俄罗斯。如果一张令人信服的假裸照被公开，受害者可能面临失去工作和生计的危险。有些人可能面临伴侣暴力。

“从本质上说，这些深度赝品要么是用来满足一些关于被出卖的情人或男朋友的病态幻想，要么只是一个完全令人毛骨悚然的怪物。”Jankowicz说。“或者它们被用作潜在的勒索材料。”

“这不仅是公众人物和名人的问题，很快它将成为每个人的问题。”帕特里尼说道。“现在它已经成为成千上万人的问题了。”

Sensity报告下载链接：https://sensity.ai/reports/

相关报道：https://www.buzzfeednews.com/article/janelytvynenko/Telegram-deepfake-nude-women-images-bot

本文来自微信公众号：大数据文摘（ID：BigDataDigest），作者：lin、miggy