AI犯了错，这锅该谁背？

本文来自微信公众号： 科技四少 ，作者：四少的小宇宙

今年5月底，德国慕尼黑法院发生了一件事，圈里很多人没注意到，但我觉得，这件事迟早会被反复引用。

两家德国出版公司，在Google搜索里查自己公司的名字，结果Google的AI搜索摘要功能白纸黑字告诉用户：这两家公司涉及"诈骗"、"订阅陷阱"、"不正当商业行为"。

两家公司懵了，去查那些被AI引用的网页链接，翻了个底朝天——这些内容，在任何一个链接里，根本就不存在。

后来发现，是AI自己"想"出来的，几个商家一合计把Google告上法庭。

Google的辩护思路，跟这些年所有被告上法庭的科技公司如出一辙：我只是个搜索引擎，我只是帮你找到网页，内容是第三方的，锅不在我这。

还好这次法院没买账。

法官的逻辑很直白：普通搜索引擎确实只是给你指路，但你这个AI摘要功能，是自己把多个网站的内容综合提炼，生成了一段"独立的、全新的陈述"——这段话是你Google自己说的，不是别人说的，你没资格说这锅不是你的。

最终，Google被裁定须直接承担责任，承担了80%的诉讼费用。

这个裁决还是临时禁令，Google还可以上诉，远没到盖棺定论的时候。但它确立的那个逻辑，才是真正有分量的东西。

这件事让我想到一个问题，这些年一直在我脑子里转，但一直没人说清楚：AI出了事，这个江湖，到底谁来扛？

这个问题之所以难回答，是因为科技公司这些年在这件事上，修了一套非常精妙的护城河。

第一道墙，叫用户协议。

你在用任何一个AI产品之前，都要点那个"同意"按钮。那份协议里面，密密麻麻写着各种免责条款，大意是：本产品生成的内容仅供参考，不构成任何建议，使用者需自行判断和承担风险。翻译成大白话就是：你自己要用，出了事别找我。

这套逻辑看起来无懈可击。你点了同意，你就接受了规则。

第二道墙，叫"我只是工具"。

科技公司一旦被追责，最常见的挡箭牌就是这句话：我们只是提供了一个平台，一个工具，内容是用户生成的，或者是模型根据训练数据生成的，真正的责任在内容源头，不在我们。这套逻辑在互联网时代用得炉火纯青，从论坛到社交平台，几乎百试百灵。

第三道墙，叫"技术局限性"。

AI会出错，这是公开的秘密，连厂商自己都承认。承认了有什么用？承认的同时，他们把这个"出错"定义成了一种正常的技术现象，叫"幻觉"，言下之意是：连人都会记错事，AI偶尔出错，这不是很正常吗？

三道墙加在一起，构成了一个完美的闭环：你明知道AI会出错，你还要用，出了事是你自己的问题；就算你觉得是我的问题，你也找不到我哪里违规了；就算你找到了，协议里早就写清楚了，你当时点了同意的。

受害者站在这个闭环面前，左边是找不到的"第三方信息源"，右边是铜墙铁壁的免责协议，前面是一套他根本搞不懂的技术黑箱。

慕尼黑法院在裁决书里用了一个词，我觉得精准极了——责任真空。

AI犯了错，既找不到第三方，又找不到AI公司，受害者的损失，就这么悬在半空，没有人接。

这个"真空"，才是这些年真正的问题所在。

说完AI搜索，再说智驾。

这两件事看起来是两个行业，两类产品，但用的是同一套逻辑。

这几年，国内新能源车的智能驾驶功能卷得很厉害。厂家在发布会上把辅助驾驶讲得天花乱坠，什么城市NOA全覆盖，什么高速全程托管，广告里的车主一路葛优躺，车子自己跑。消费者看了心动，买单。

在事故发生之后，厂家的公关动作几乎形成了一套固定流程。第一步，强调产品名字——我们叫"辅助驾驶"，不叫"自动驾驶"，主体责任在驾驶员。第二步，调取行车数据——数据显示，事故发生前驾驶员双手离开方向盘超过X秒，属于违规使用。第三步，搬出用户协议——购车时签署的协议里明确写明了使用规范和责任边界。

消费者站在那里，面对一份他当时根本没仔细看的协议，面对一堆他根本看不懂的行车数据，面对一个比他有钱、有律师、有公关团队的汽车厂商。

更荒诞的是什么？是这些厂家在发布会上从来不叫"辅助驾驶"。那些宣传视频、那些KOL测评、那些销售话术，用的都是"智驾"、"自动驾驶"、"解放双手"。消费者买的时候，听到的是一套；出了事，拿到的合同上，写的是另一套。

名字换了，责任边界就跟着变了。

这和Google AI搜索那个故事，本质上是同一道题。产品在推销自己的时候，展示的是能力；出了问题需要担责的时候，搬出的是局限性。

进可攻，退可守，消费者永远是最后那个接锅的人。

所以德国那个裁决，才值得被反复说。

法院那句话，我觉得说到了根子上：如果法律上认定AI生成的内容完全不可信、用户必须自己逐一核查，那这个功能宣称的价值本身就不成立。

不管是企业还是人，你不能两头占。

你说你的AI摘要又快又准，能帮用户节省时间，凭这个卖广告、收会员、涨市值——那出了问题，你就得担这个责任。你要是真觉得自己只是个"仅供参考"的工具，那行，把你的发布会重新开一遍，把那些"改变信息获取方式"的豪言壮语收回去，老老实实告诉用户：我说的话，你别信，自己查去。

智驾也是一样的道理。

你在发布会上说"解放双手"，说"比人类更安全"，靠这些话卖出去了车——那出了事故，你没有资格躲在"辅助驾驶"这四个字后面。你当初说的那些话，就是你欠下的账。

江湖上有一句话，我觉得放在这里很合适：有多大的碗，吃多少的饭。

能力吹多大，责任就得担多大。这不是什么高深的法律原则，这是最基本的规矩。这个规矩在任何一个正常运转的行业里都成立，在菜市场成立，在建筑工地成立，凭什么到了AI和智驾这里，就可以有例外？

慕尼黑这一锤还没锤实，Google还可以上诉，这件事的最终走向还不知道。但它击穿的那套逻辑——科技公司可以用能力收钱、用局限性免责——这个窟窿，补不回去了。

有人会说，现在AI技术还在发展阶段，要求太严会影响创新，要给行业空间。这话我听过很多遍。每次一个行业出了问题，第一反应都是"别管太严，会影响发展"。

但我想问一句：这个"空间"，凭什么一直由消费者来让？

这个江湖，吃肉的时候从来不缺人，挨打的时候，得有人站出来。