扫码打开虎嗅APP

搜索历史
删除
完成
全部删除
热搜词
AI生成内容数量已超越人类,但质量堪忧且潜藏风险,尤其AI编程和智能体工具滥用导致垃圾应用泛滥及安全隐患。 ## 1. AI内容泛滥与质量危机 - 2024年11月AI生成文章数量首次超过人类,低质量、套路化内容充斥网络,官媒批评其对青少年有害。 - AI网文生成技术成熟,输入大纲即可批量生产,但内容同质化严重(如固定情节模板)。 ## 2. AI编程引发垃圾应用海啸 - 我国日均token调用量超140万亿(较2025年底增40%),OpenClaw滥用致代码生成失控。 - 非程序员依赖AI开发平庸应用,未经验证的垃圾代码涌入App Store,审核时间从48小时延长至45天。 ## 3. 智能体工具暗藏高危漏洞 - 智能体依赖的skill中,50%存在名称重复,9%具严重风险(如资金转移、数据销毁)。 - 论文统计4万多个skill显示,权限管理混乱,10%概率随机部署到高危技能,远超App Store风险。 ## 4. 数字垃圾混合毒性威胁 - 智能体权限过大且缺乏审核,垃圾内容中混杂恶意功能,用户可能面临财产或数据损失。 - 行业初期兴奋掩盖隐患,需警惕“数字泔水”污染从内容层扩展至系统安全层。 (关键数据保留:140万亿token、45天审核、9%高危skill、50%重复率)
2026-04-09 19:46

AI垃圾,产能已经绝对过剩

本文来自微信公众号: 非凡油条 ,作者:豆腐乳儿


2024年11月,互联网上AI生成的文章,在数量上第一次超过人类。


ChatGPT发布一年多一点,它和它同类就完成了在文字上灌水淹没人类的壮举。


AI生成的内容熟练上来了,质量却很堪忧,不少低质量或者虚假内容大行其道。


最近就有报道说,AI生成网文已经非常成熟,只需输入故事大纲、人物设定,在大模型中加以训练,就能生成相应文章——毕竟这些低质量网文很是套路,在第几章扇几个耳光,下几次药都能猜到,让AI写速度显然更快。


官媒认为这些低质量AI生成内容,对青少年有相当大的毒害作用。


不过说白了,这些低质量AI文字、视频生成内容顶多有些辣眼睛,影响心情。


批量生成的AI垃圾还有更大的危害,不在AI生成文字或者视频上,而在AI编程上。


今年3月,我国日均token调用量已超过140万亿,相比2025年底增长了40%多。


多出来的这部分,很大程度上是使用OpenClaw消耗的。


很多人用OpenClaw没白没黑地写代码,认识到了AI编程的妙处。


以前有个笑话,说当年全民创业,总有人一拍脑袋想到一个好项目,就差个程序员就能创业了。


现在很多人得到了他们梦想中的程序员,还是个AI,不吃不睡,简直完美!


于是很多人用AI做出了他们一直想做的应用。


然而,绝大部分人的想法很平庸,他们的想法变成App也不会优质到哪里去。更何况很多人不会编程,全靠AI编程,生成的代码也不会检查,结果就是生成了一堆垃圾App。


他们还要把这些垃圾App上传到苹果App Store上,导致苹果App Store申请被垃圾淹没,不知所措,如今苹果App Store上架审核因为垃圾申请太多,审核时间从24-48小时增至最长45天。


看到这有人就说了,不是说好了AI智能体取代App吗?App已经是冢中枯骨,无足轻重,只要大力发展智能体,绕过App,大家都不用App了,现在App Store被垃圾淹没的问题自然就会解决。


问题来了,你以为智能体,就逃得过被AI灌水,被垃圾淹没的命运吗?


智能体最近大火,本质上是因为它能自动拆解任务,调用工具解决问题,而智能体调用的工具叫skill,具体问题都是通过skill解决。


skill显然不是天上掉下来的,也是人编出来的。


最近有篇论文,统计了skill的常用获取渠道skills.sh上的四万多个skill,发现其中一半左右连名字都是重复的,更别说功能了。


如果都是些重复的垃圾也无所谓,就怕里面含有有害垃圾——你猜怎么着,还真有!


该论文把skill对你的信息权限分成了四档


安全:只读公共数据,无副作用;


隐私风险:读取敏感数据/个人信息,无状态变更;


中等风险:有限的状态变更操作,可逆转;


严重风险:金融操作、不可逆数据销毁、系统级配置、任意代码执行。


其中光是严重风险那档的skill就占据这四万多个skill里的9%。


☉数据来源:Agent Skills:A Data-Driven Analysis of Claude Skills for Extending Large Language Model Functionality


也就是说,你在skill.sh上随意部署十个skill,就可能有一个能删掉你的数据或者转走你的钱。


都说OpenClaw权限大,本地部署有危险,我看安装其他skill照样有危险。


App Store好歹有审核,虽然审核现在因为垃圾App太多慢下来了——skill审核都不严格,上面很多有害垃圾,随时可能卷走你的钱,你就不怕吗?


智能体太能干活了,以至于大家现在都还处于初期兴奋状态。等到冷静下来,就会发现,给智能体的权限太大,实在太危险了。


这已经不是简单的垃圾淹没互联网的问题了,是垃圾里混合着毒药,还鼓励你一口都吃下去。


吃成个大胃袋都算好事了,可别把自己吃死了。



微信回应为什么没有“已读”功能;罗技中国就「广告侮辱消费者」道歉;小米正式终止MIUI更新|极客头条https://mp.weixin.qq.com/s/vEEDoKFL6a8LDNorM28dtQ


“数字泔水”污染加剧,怎么管?https://mp.weixin.qq.com/s/rNVwtotNhAu7q8BD9AP_aQ


Agent Skills:A Data-Driven Analysis of Claude Skills for Extending Large Language Model Functionality https://arxiv.org/pdf/2602.08004


AI slop is taking over the internet.And it's here to stay|Morningstar https://www.morningstar.com/news/marketwatch/2025122944/ai-slop-is-taking-over-the-internet-and-its-here-to-stay


图表:我国日均词元调用量超140万亿__中国政府网https://www.gov.cn/zhengce/jiedu/tujie/202603/content_7063671.htm

本内容来源于网络 原文链接,观点仅代表作者本人,不代表虎嗅立场。
如涉及版权问题请联系 hezuo@huxiu.com,我们将及时核实并处理。

支持一下

赞赏

0人已赞赏

大 家 都 在 搜

好的内容,值得赞赏

您的赞赏金额会直接进入作者的虎嗅账号

    自定义
    支付: