扫码打开虎嗅APP

搜索历史
删除
完成
全部删除
热搜词
AI伪造虚假素材骗局频发,本文实测国家反诈中心APP的AI内容鉴别功能,梳理其优劣与AI造假的危害,提醒大家警惕AI诈骗。 ## 1. 起因:买家AI造霉榴莲图骗退款,连AI水印都没删 买家花190元买榴莲后,发AI伪造的发霉榴莲图申请仅退款,老板自掏5000元路费赶到买家所在地核实,发现买家早已吃完榴莲,账单上AI生成图的水印都没删除。 ## 2. 实测:国家反诈中心APP AI内容鉴别功能体验 国家反诈中心APP主页直接摆放AI内容鉴定入口,笔者测试鉴别假AI图,不到5秒就得出“假的”结果;上传真实的坏水果图片,系统准确识别为真。 测试高难度图片时,多次重复上传才成功得到鉴定结果;上传AI换脸视频,不到5秒就得出了准确结果。 该功能对截图、录屏类AI素材鉴别准确率较低,容易把AI假素材错判为真。 反诈中心的AI检测模型2024年3月开启测试,5月18日正式上线,上线仅4天,目前仍在优化中,出现小bug可以理解。 ## 3. AI假图假视频泛滥的三大危害 AI造假泛滥会拉高整个社会的信任成本,类似碰瓷变多后没人敢扶老人,信任崩塌后很难重建,真求救可能被误认成AI造假玩笑。 日常办事沟通成本会大幅提升,原本一分钟能敲定的事,需要反复申诉自证,耗费大量时间精力。 骗子利用AI换脸造假更容易得手,比如换脸成老人的孙辈打视频哭诉求钱,很容易骗走老人的养老钱,最终只会让老实人吃亏。
2026-05-22 17:33

别人拿AI图白嫖,却要我掏损失费?

本文来自微信公众号: 小声比比 ,作者:梓泉,责编:美味蟹黄堡


大家好!今天一个视频给我看懵了


有人花190块买了个榴莲


发图说发霉了,申请仅退款


老板不服,说榴莲不是自家的


倒贴5000块路费杀到买家村头?


(来源:抖音@程大叔下同)


接着看,还真给老板翻出点东西来

但只剩包装袋,霉榴莲的影子都无

后来一对峙,原来榴莲早被吃了


发霉的图片是买家用AI伪造的。。。


再一瞅账单,连豆包水印都没删?

(划到图末有亮点👇)



这以后,有图也不一定有真相了?


我看大伙七嘴八舌讨论一通

有人说反诈APP能帮咱解决这个事



反诈APP这功能真有用??

我反手戳开APP想试试

一进去,AI内容鉴定就挂在主页



没出5秒钟,就出结果了:假的!


还挺像模像样?!


这APP还真有火眼金睛了?!


别图是真的,却被APP给误伤了?!


我又找了点真·烂水果传了上去


系统晃荡了两秒显示:真·烂啦!


这谁看了都得愣两秒吧。。。


我一传,坏了啊。。。


系统一个劲显示上传失败


不是吧,刚上点难度,就不行了?


我又重复传了好几次


才把这图的真身给验了出来:

(左划查看检测结果)



测到这,图片鉴别还挺是回事


但现在的AI,视频玩得更是6


这APP也能鉴别吗??


我找了个哥们用AI变姐妹的视频


丢进APP一试,不出5s结果就有了:


(来源:抖音@网痞桃)


我又闷头捣鼓了俩小时发现

这AI检测大部分时候挺行

但遇到截/录屏下来的素材就拉了

像👇这张我用📱截的AI图


它转悠了几秒,把假货盖合格章了?


还有之前明星被换脸带货的视频

原视频是假的,全网都被下架了

可我用录屏一测,这APP也没看出来

(是太逼真测不出来?

还是得放原图、原视频才测的准

有没有懂哥来讲讲这是啥原理)


一查才知道

反诈APP的AI检测模型3月开始测试

到5月18号上线,出生才4天

现在还在吭哧吭哧优化着呢

有点小bug咱也能理解



再没人管,咱日子都过不好了。。。


一来,整个社会的信任成本被拉高

就像碰瓷的多了之后

sei还敢轻易扶马路上摔倒的老人啊

同样的,AI假图假视频漫天乱飞

这要是人贩子用上AI图


甚至能自证“清白”了??


人与人之间的信任一旦崩塌

再建立起来就难了啊

哪天我真遇上危险了掏手机求救

结果朋友以为这是AI生成逗他的


那不坏菜了吗。。。。



而是直犯嘀咕:这不会AI的吧?

搞得原本一分钟就能搞定的事

现在得来回申诉折腾好几天



这找谁说理去啊???



最后,AI假图真让咱钱包不保啊


像一些骗子专用AI换脸骗老人


老人一看孙子孙女都打视频哭诉了


这总没假了吧?一旦放松警惕


养老钱就进骗子兜了。。。



咱以后不得吃老鼻子亏了?!


骗子靠AI假图躺着骗钱


老实人只能靠肉眼苦哈哈分辨?


说话没人信,干啥都得先AI验真


保不齐以后都不是验图真伪了


我还得证明自个是个真人呢。。。

本内容来源于网络 原文链接,观点仅代表作者本人,不代表虎嗅立场。
如涉及版权问题请联系 hezuo@huxiu.com,我们将及时核实并处理。

大 家 都 在 搜