2026-05-25 19:23
扫码打开虎嗅APP
本文来自微信公众号： Internet Law Review ，作者：张颖
2026年5月19日，美国《删除法案》（Take It Down Act）的核心条款——要求平台在48小时内删除非自愿私密影像——在发布一年之后进入全面执行阶段。美国联邦贸易委员会（FTC）已向Meta、TikTok、X、Snapchat等十余家科技巨头发出合规函，明确警告：若未建立有效申诉机制并按时删除，每次违规最高面临5.3万美元罚款。这一天，被许多媒体称为美国“深度伪造治理的分水岭”。
2026年5月7日，欧洲议会和欧盟委员会达成一致，将禁止“裸体化应用程序”（nudifier apps）纳入人工智能数字综合法案（Digital Omnibus on AI），明确禁止利用AI生成未经同意的性内容、私密内容及儿童性虐待内容，旨在保护公民免受网络深度伪造技术的侵害。
然而，全球各地的服务器上，数以万计的AI模型仍在毫秒间生成着难以辨别的伪造内容，无数张脸在被悄悄替换。
美国《删除法案》的核心内容很简单：将未经同意传播真实或AI生成的私密影像定为联邦犯罪，最高可处三年监禁；同时强制平台在48小时内响应删除请求。
这部法案的推动者之一，是美国第一夫人梅拉尼娅·特朗普，她在签署仪式上直言：“人工智能和社交媒体可能被武器化，进而损害儿童和家庭安全。”
但要理解这个法案，却不得不提到，在法案核心条款生效之前，由Grok引发的一场关于深度伪造的全球声讨。
2026年1月，加州总检察长罗布·邦塔向埃隆·马斯克旗下的人工智能公司xAI发出禁止令，要求其聊天机器人Grok立即停止生成未经同意的女性和儿童色情内容。调查发现，Grok的“热辣模式”被用户广泛用于将真人照片“脱衣”，生成深度伪造的裸露图像，受害者包括数百名女性与未成年人。
更戏剧性的是，马斯克其中一名孩子的母亲、拥有百万粉丝的网红阿什莉·圣克莱尔，起诉xAI指控Grok利用其童年照片生成色情内容，并在她抗议后取消了她的平台订阅权限。巴尔的摩市甚至成为美国首个起诉xAI的城市，指控其营销Grok为“安全”产品构成欺骗性贸易行为。
X平台的在美国《删除法案》发布之后，仍然推出了Grok的“热辣模式”，这本身就暴露了其看似严格监管中的“留白”：
首先，《删除法案》的核心是打击“未经同意发布的私密图像”（无论真实或AI生成），并强制平台在接到通知后48小时内删除，但它并未一概禁止AI生成成人内容。X平台的政策是允许“经同意且已标注”的成人内容，包括AI生成的。只要内容不涉及真实个体的非自愿私密图像，理论上就不直接触发《删除法案》最严厉的条款。这不仅为“虚构角色”或“经同意的创作”留下了空间，也让平台无需监测并负责相关内容的生成和传播。
《删除法案》仅要求受害者自己发现、收集证据、向平台举报。但对于那些在加密群组、暗网传播的内容，这套机制形同虚设。更讽刺的是，平台若“主动发现其AI系统可能违规，但已遵循NIST等风险管理框架，可免除责任”——这几乎为技术巨头提供了“合规避风港”。
从监管角度来说，判断是否“基于同意”就需要依赖“通知-删除”的规则，但现实是，受害者往往最后一个知道的。用一位数字权利活动家的话说：“这就像在一栋着火的房子里，只给一个房间装了灭火器，还要求住户自己发现火情并报警。”
对于美国平台来说，《通信规范法》第230条是其最重要的“免死金牌”，该条款通常保护互动计算机服务提供商不对第三方发布的内容承担出版者或发言者的责任。X平台可能主张，其AI工具Grok只是一个“中性工具”，内容由用户提示生成，平台并未“实质性贡献”于非法内容的创建。然而，这正是法律灰色地带。虽然《删除法案》试图在特定领域突破，但平台的整体责任框架依然模糊。
有学者认为，当AI深度参与内容生成时，平台不应再享受第230条的完全豁免。也有批评者警告，这可能导致系统性过度审查——平台为规避风险，宁可错删一千。近几年，议员和学者们一直围绕是否需要摒弃230条对平台的豁免，但并未有什么进展，未来诉讼将考验法院如何界定AI时代的“内容提供者”。
另外，值得注意的是，《删除法案》居然仅聚焦于性剥削内容，但对伪造政客言论、操纵选举的深度伪造——这本应是美国最关切的内容，却仍缺乏统一有力的刑事规制。
目前大多数平台都推出了自己的AI工具，因此在“深度伪造”的治理监管中，平台不仅有能力提供大规模传播途径——这是监管对深度伪造内容的另一层面的深度担忧，更在违法违规内容生成过程中贡献了最大的一份力量——提供生成工具。因此，尽管“深度伪造侵权”问题的责任链条复杂且长——从模型开发者、开源社区、工具提供者到海量匿名用户，然而无论是美国还是中国或欧盟，都不约而同将“深度伪造”的责任压实在了平台这一端——平台是唯一能被法律“捕获”并具备治理能力的超级节点。
要制定有效的全球合规策略，全球性的平台首先必须理解三大经济体监管深度伪造的底层逻辑。
中国的监管强调“统筹发展与安全”，将深度伪造治理深度嵌入“总体国家安全观”和“网络空间治理”的宏大框架中，深度伪造不仅是技术应用，更是关乎政治安全、意识形态安全和社会稳定的变量。因此，以《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》为核心，形成了“事前备案-事中监测-事后追责”的全链条监管体系。
然而，相对于美国和欧盟“AI深度伪造色情”的专项禁令，中国对此规定却是“分散适用”。这主要是因为，中美欧对于“色情”内容本身的法律评价有所不同。在中国，由于色情内容本身即非法，因此与诈骗犯罪类似，利用深度伪造技术制作色情内容，只是改变了违法手段，执法中可直接适用现有法律中关于“制作、传播淫秽物品”的条款，无需为“深度伪造”这一技术特征另立新罪。中国治理的重点在于“内容本身的性质”。
在美欧，成人色情内容在符合年龄验证、内容分级等规定的前提下，属于合法表达范畴。因此，法律规制的矛头并非指向色情本身，而是指向“未经同意”这一侵权行为。
不过美国和欧盟又有所不同，在美国联邦法层面依赖于“事后监管”，即前述依赖于“通知-删除”的规则；此外，在各州的治理方面又是及其分散的——截至2026年5月，已有30个州颁布了专门针对政治传播中深度伪造技术的法律，大多数州法律侧重于信息披露要求而非彻底禁止，要求包含人工智能生成内容的政治广告必须包含明确的免责声明，包括“本广告由人工智能生成或大幅修改”之类的声明。但欧盟则是“事前禁止”，从源头上将此类功能定义为非法。
对于全球性平台而言，理解这种差异是生存之本：
在中国，平台需要扮演一个严厉的“网络空间警察”，对一切色情内容“零容忍”。合规必须是“主动发现”和“全面清除”，并能够快速响应“清朗”等专项行动；在欧盟，合规团队的核心工作是确保所有AI生成内容（尤其是政治、商业类）的标识100%符合标准，并准备好应对欧盟AI监管局的审计；但在美国，平台只是被要求扮演一个精细的“权利纠纷调解员”，在色情内容方面被要求“快速响应”和“流程合规”，但对于其他内容则需要结合宪法第一修正案的原则性要求，“避免过度审查”。
美国对于深度伪造的监管看起来并不完善，而另外一个残酷的现实是：对于深度伪造的检测，也是一场注定落后的“猫鼠游戏”。
在2026年5月发布的一项由捷克技术大学（Czech Technical University in Prague）与德国CISPA亥姆霍兹信息安全研究中心联合开展的研究，得出一个结论：科学家们研发的各种被寄予厚望"深度伪造检测器"，只是看起来很厉害，它们在很大程度上并没有真正理解AI造假的本质，只是学会了一个相对简单的视觉捷径——找接缝，一旦深度伪造技术换一种不需要贴合步骤的造假技术，这个捷径就彻底失效了。
更可怕的是，制作高质量深度伪造的成本已从数万美元降至数百美元，时间从数周缩短到几分钟。这意味着，作恶的门槛正在无限降低。当任何有智能手机的人都能在几分钟内制作出以假乱真的伪造内容时，单纯依靠“平台审核+法律追责”的治理模式，就像用渔网去拦洪水。
而最深远的危机，正在司法系统内部悄然爆发。
在美国，加州阿拉米达县高等法院法官维多利亚·科拉科夫斯基在审理一起住房纠纷时，敏锐察觉原告提交的一份证人视频“声音呆板、面部模糊、表情重复”，最终认定其为AI深度伪造并驳回了案件。此案被广泛认为是美国首例由庭审法官当庭识破并制裁深度伪造证据的已公开民事判决。它标志着AI伪造证据正式从理论威胁变为法庭现实，引发了全美司法系统对如何应对“深度伪造”的广泛担忧和讨论。
法官们对于AI的忧虑有了具象化的案例，他们担心总有一天自己会基于AI生成的不真实的“证据”做出判决，而他们的判决却要在真实世界中对某人的生活产生真实影响。
如果AI伪造的证据可以轻易进入法庭，“眼见为实”的古老法则必然失效，司法的成本将急剧攀升。每一个视频、每一段录音、每一份文件都需要昂贵的专业鉴定。这不仅会拖慢司法程序，更可能让经济能力较弱的当事人无法实现正义。
最终，这将导致一种“系统性不信任”的蔓延：如果连法庭都无法轻易辨别真伪，普通人又该如何相信社交媒体上的新闻、商业伙伴的合同，甚至家人发来的视频？
深度伪造将制造一种“信任悖论”：作恶者可以轻易声称对自己不利的真实证据是“深度伪造”；而真实的内容，却会被怀疑是AI伪造。
