让AI助手操控手机，你的心该有多大？

本文来自微信公众号：独角鲸工作坊，作者：杜小京，题图来自：AI生成

本周一（12月1日），恰逢ChatGPT发布三周年的正日子，字节跳动发布了一款震惊业界的AI应用：豆包手机助手。

这款应用自然有很多亮点，尤其是在社交媒体上刷屏的“比价”功能：你只需要给手机看想要的沐浴露图片，手机就能自己为你截图，各大APP一顿搜索，找出那个最便宜的给你下单，全程操作下来都不用打开电商APP。

当然，它也可以自动下单外卖，比如，帮你在各大外卖平台上帮你找到最便宜的“吮指原味鸡”。

从目前的舆情看，社交媒体上对此争议最大的还是所谓的“隐私墙”问题，截至目前为止，据网友反映，微信、淘宝、支付宝、高德地图、农行、建行等APP都对豆包手机助手采取了“安全风控措施”。

从商业上而言，豆包手机助手可能会引起互联网行业的剧烈震荡，毕竟，这相当于“偷家”了诸多电商与外卖巨头，他们构建了这么久的应用矩阵、内容，因为用户可以借助AI助手绕过APP，一下子就失去了“入口”的权利，沦为了“被调用”。

商业这东西，很难评判谁是谁非，偷家也好，反击也好，我们不妨让子弹再飞一会，看看这一池春水将如何被吹皱。

在这里，还是想谈谈我们这些普通用户将如何自处，毕竟，在可见的未来，我们将会看到越来越多类似的“手机助手”的出现。

就像字节跳动近日发布的那篇“自我辩护”一样，大公司多少会讲一些社会责任与商业伦理，但如果更多的小公司也跟着入局手机助手，泥沙俱下，很多事情就不好说了。

那就从隐私说起吧。坦白说，我对互联网语境中“隐私”这个概念一直心存疑虑：一来，这年头又有哪个超级应用不牵扯点隐私；二来，相对而言，中国人对隐私没有欧洲人那么谈虎色变，如果能让渡部分隐私换取“便利”，很多中国人并不介意这么做。

我更想谈的是“风险”。

在我看来，AI手机助手有点类似于“自动驾驶”，一个是放弃了对方向盘的掌控，一个是放弃了对“手机系统权限”的掌控。

我们知道，在目前的技术条件下，纯粹意义上的“自动驾驶”仍是一个过于超前的概念，今年以来已有多起惨烈的车祸与此有关。所以我们也可以看到，一些原本以自动驾驶为噱头的车企，正在将宣传口径改为“智能辅助驾驶”。

出于近似的逻辑，在目前的技术条件下，如果我们将手机系统权限，拱手交由AI手机助手，同样也是风险重重。

以银行APP为例，我们真的放心让AI手机助手读取我们的银行账户信息，乃至帮我们操控吗？此时此刻，电诈从业者们可能正在召集紧急会议，讨论“AI手机助手给行业带来的机会”。

或许是多虑了，我们有理由相信大公司推出的AI手机助手可以有效屏蔽电诈的风险，但那些来路不明的小公司的产品呢，老人又如何分得清哪款助手安全哪款不安全？

即使撇去电诈的语境，这里仍然存在着一个责任认定的问题。我打个比方，如果手机AI助手出错，哪怕是极低概率下的出错，转账时出现错误，造成的损失由谁来承担？

有人或许会说，可以找AI助手的出品方啊？这话有些纯洁无瑕了，这年头有那么多信用卡盗刷案件，你见到哪家银行爽快地站出来“买单”的；再好比，当发生由自动驾驶导致的车祸时，车企也不会站出来揽下全部责任。

唯一的责任人，就是你。AI与你同林鸟，大难临头各自飞。

银行这个例子可能太极端了，那社交媒体呢？让AI“代持”社交媒体一会，又有什么风险呢？

人生在世，最重要的依凭除了金钱，可能就是“关系”了：与家人的关系、与同事的关系、与领导的关系、与合作伙伴的关系、与客户的关系……随便说错一句话，随便透露一个不应该透露的信息，都可能会颠覆你的人生。这就好比，有些已婚人士不希望配偶翻看自己的手机。

其实是同样的道理。如果AI手机助手因为某次误操作，搞砸了你的某个重要关系，比如将一份内部报价文件发给了客户或者竞争对手，请问AI手机助手出品方会负责吗？你说你的人生毁了，除了删掉手机助手泄愤，你莫非还能索赔？

图/AI生成

以上的话说得或许有些戏谑，但话糙理不糙，在这个我们每天使用手机动辄十小时的年代，从银行信息、恋爱信息到工作信息，你安身立命的一切信息可能都与社交媒体关系万千重，然后你就这么心大地将“大权”交给手机助手了？

说实话，这很难不让我联想起赵高之于胡亥、吕布之于董卓、赵匡胤之于柴荣、德川家康之于丰臣秀吉，这些都是最亲密的助手。

那有人说了，我让AI助手帮我电商比个价下个单，总没问题吧？

似乎没有啥问题。

吃打折吮指鸡的时候当然皆大欢喜，吃饱了贤者时刻，一细想都是问题。

先谈以上一直在说的“责任”问题。下错单了谁负责？如果是一杯奶茶也就罢了，冰箱电视机这些大金额的物件下错单了怎么办？AI出品方难道会负责？

你千万别说不会出问题，知道不知道就在前两个月，亚马逊云服务（AWS）宕机事件？

设想一下，此时此刻，你的AI手机助手正在帮你下单，是不是画面太美？你的微信宕机了，无非就是掉个线失个联，但有些事情宕机了，那可是可大可小。

你说你信奉技术的力量，那没问题，我不说宕机不说下错单还不行吗？那有没有这样一种可能性呢，有些AI手机助手出品方，将“货架位”像广告位一样卖了出去，优先展示甚至优先帮你下单“客户”的产品，你觉得怎么样？

还千万别说这不可能。在国内搜索引擎全面推广竞价排名之前，你是不是觉得搜索也与AI助手一样如白莲花一样圣洁无瑕？

这样类似的潜在骚操作还有很多，请恕我这里不一一列举了，你尽情发挥自己的想象力即可。

从内心而言，我多少算是一个技术至上者，对目前流行的AI泡沫论不屑一顾，对技术改变人类命运更是深信不疑。但是，我对人性始终充满警惕，当一种尚不成熟的技术，与幽深晦暗的人性一碰撞，擦出的未必是熠熠生辉的火花，也可能是四处蔓延的失控野火。

对于AI手机助手，我们先不下结论，我们甚至可以保持谨慎乐观，但谨慎这个前提，须臾不可忘。

本文来自微信公众号：独角鲸工作坊，作者：杜小京