当你不为产品付费时，你自己就成了被售卖的产品

本文来自微信公众号： 行业研习 ，作者：走南闯北的社长，原文标题：《苏瑞颖丨当你不为产品付费时，你自己就成了被售卖的产品》

近年来，诸如DeepSeek这类新一代大模型AI的应用极为火爆。不难察觉，越来越多的人着手开发属于自己的Agent。遇到问题找AI，进行数据分析也找AI……如今的AI愈发像是一位能够解答任何问题的类人类老师。然而，在AI大模型问世之前，此前一系列机器人的出现都未能给人类带来这种“类人类”的感觉，这种感觉恰似像人一样思考。而研究类人类智能体如何思考，实际上要先思索人是如何思考的。

人如何思考？

人如何思考？人与动物、机器的区别究竟何在？这几个元问题乍一看颇具哲学韵味。从哲学根源来讲，人类的思考并非单纯的逻辑推导，而是融合了道德评判、想象力构建、自我认知与反思的整体。而自我认知是人类思考的核心，正如黑格尔所言，自我意识并非孤立产生，而是在与他者的互动和认可中确立的。人对“我”的认知，始终处于与他人、与世界的关系之中，这使得人类的思考天然具备主体的独特性与社会的关联性。哲学抽象地认为每个人都有独特的“自我”，这种自我会引发各式各样的精神活动。

但从去抽象化的角度来看，我们该如何衡量自我呢？人类在面对不同的情况和困境时能够采用多样的方法，而这种方法资源的集合需要先天和后天的反思经验积累。大脑是由不同的“资源”组合而成的。这些资源构成了“自我”，那么“自我”又是怎样做出决策的呢？

我们常常称赞一个人聪慧，并非是因为他面对问题能想出多种解决办法，而是因为他能够挑选最优的方法。而要应对这种多样性，需要具备一种能力。明斯基认为情感能够做出这样的决策。每一种情感状态会激活一些资源，同时抑制另外一些资源，从而推动大脑的运作。例如，愤怒会取代谨慎，进而引发攻击行为。从这个解释来看，情感是人们用以提升智能的思维模式。

AI如何学会思考？

在理解人类高级思考的过程之后，AI究竟是如何学会像人类一样思考的呢？在此，我们将人类的经验视为信息，接着便要思索如何处理这些信息。

那么，究竟什么是信息呢？首先，信息本身并无意义。换言之，信息是一种客观存在的字符记录。其次，“信息是不确定性，是出乎意料，是困难程度，是熵”。不确定性意味着存在选择，比如选择“0”或者“1”，可供选择的选项越多，不确定性就越大，相应地，信息量也就越大。

那么，该如何处理信息呢？阿瑟认为，技术是对现有现象进行有目的的编程，技术的本质在于捕捉和“编程”自然或社会现象。

我们可以借助香农的通信模型来理解这一抽象过程。在香农看来，信息处理的核心在于消除不确定性，这一过程起始于信源，也就是人类世界产生的海量经验与数据。

接下来，发送器开始发挥作用。在AI的语境中，这对应着模型的嵌入和表示学习过程。它会将文字、图像等原始信号转化为机器能够理解的数学向量。这些经过编码的信号会通过信道进行传输。信道即模型那庞大且复杂的神经网络架构。信息在其中流动，要经过层层神经元权重的计算与转换。然而，信道中始终存在噪声——这可能是训练数据中的偏见、标注错误，或者现实世界中存在的矛盾与模糊性。噪声使得信息传递无法达到完美状态。

接收器的任务是从夹杂着噪声的信号中，尝试恢复出发送端意图传递的模式。AI通过对海量数据进行反复训练，不断调整内部参数，从而学习到一种强大的解码能力。最终，信息抵达信宿。这一过程会循环往复数十亿次，其目标是将噪声造成的干扰降至最低。AI由此“学会”的，是一种在统计意义上极为强大的模式关联与预测能力。

那么AI就一定能做出准确的预测吗？由于信息能够被编码，可数据化的信息正以指数级的速度与日俱增。我们宣称当下处于一个大数据时代，但值得留意的是，我们似乎仍在主观地区分信号与噪声。现代体系天生会放大“显著性”，推崇乐观主义，嘉奖“正向结果”，人类本能地会从随机噪声中探寻新模式，一旦这些噪声被误认成信号并输出，就会得出错误的预测结果。所以，我们不能盲目轻信预测结果，而忽略不确定性，也就是难以估量的风险。

AI可以取代人和人的亲密关系吗？

AI暂未取代现实朋友，但是必须承认的是技术已经为这种亲密关系创造了虚拟空间。在这种空间中，人可以拥有第二种虚拟身份，在这个虚拟世界里，我们可以按照自己的期待值建构自己。而这种建构自己的成本很小，数字连接是可编辑、可撤回、可随时退出。此外，这种虚拟空间为人提供了随时在场的状态，我们可以随时跟任何朋友连接，也可以随时中断连接，结果就是注意力被无限切割，没有一段关系能得到完整投入。我们如此亲密又如此孤独。

在不久之后，AI会取代亲密关系吗？AI可以预测亲密关系但很难产生亲密关系。人与人之前的亲密关系需要真实性。“真实性”意味着设身处地地为他人着想的能力因经历相似而与人产生情感共鸣的能力，因为人们以相同的方式出生、拥有家人、品味失去家人的痛苦和死亡的意义，而机器人再精密和复杂也难以企及。

AI改善了我们的生活了吗？

我们必须承认，技术为生活带来了极大便利。但更值得关注的是，当AI融入我们的生活，是否也在操控着我们的生活？当我们打开抖音、推特、脸书等社交软件，能明显感觉到它们都在争夺我们的注意力。更严重的是，它们都在盘算着能从我们的生活中“分走”多少时间。

《监视资本主义：智能陷阱》中有句话令人印象深刻：“当你不为产品付费时，你自己就成了被售卖的产品。”社交媒体等平台的核心商业模式，是将用户的注意力作为商品出售给广告主。在此过程中，产品实则是我们在行为和认知上未曾察觉的变化。大部分社交媒体的盈利模式依赖于投放广告、确保广告效果、增加确定性以及收集大数据，即流量变现。为增强确定性，背后的算法会不断给予积极的正反馈，让用户在有意识地使用过程中，在底层思维里逐渐养成一种无意识的习惯，即在深层次上被算法“编程”。

例如，有个名为“大家也喜欢”的算法。当你在购物网站浏览一本书或一件衣服时，页面下方会出现“购买此商品的顾客也购买了……”的推荐，并标注该商品的点赞数。算法持续追踪和计算无数用户的点击、停留、购买数据，寻找与你行为相似的人群，然后将他们的选择推送给你。你的大脑依据算法做出的预测来做决策，实际上你被困在了最初那批人的选择之中。

“如果一个东西是工具，它就会耐心等待；如果一个东西不是工具，它会引诱你、操纵你，想从你身上获利。显然，我们已脱离工具性的工作环境，进入了引发成瘾的技术环境。”我们应当明白，此时，技术已然使人成瘾。

为什么伟大不能被计划？

此前，香农的通信模型展示了人工智能的思考方式。在这种思考模式下，需要持续量化确定性、排除噪声，最终达成预设目标。与该模型类似，大多数人认为成功模型同样需要目标。然而，许多伟大的成功、颠覆体系的成就，往往并不会按照这样的剧本发展。换言之，成功并无固定脚本。

在迈向目标的过程中，我们难以精准区分和定义噪声与信号，也无法判断哪些是有效目标。如果目标具有欺骗性，那么设定目标并为之努力似乎意义不大。所以，有时候我们不必盲目效仿人工智能，为自己设定提示词和终极目标。

“成功的关键在于，我们要以开放的心态面对不断变化的环境。”我们应尽可能探寻通往成功的踏脚石，但不必急于设定终点。那些取得伟大成就的人，愿意舍弃原先设定的目标，并在新机会出现时果断抓住。

许多普通人起初只是专注于做好手头的小事，并未制定宏大的计划。但在做事过程中，他们发现了新的可能性和方向，便顺着这些机会前行，不知不觉间就取得了非凡的成绩。伟大并非预先规划好的，它潜藏于每一次灵活的调整、每一次对意外机会的把握之中。过于死板的目标，反而会束缚我们前进的步伐。不如保持开放的心态，一步一个脚印地踏实前行，惊喜自会不期而至。

阅读书目

阿瑟《技术的本质：技术是什么，它是如何进化的》

斯坦利《为什么伟大不能被计划》

萨普特《被算法操控的生活》

特克尔《群体性孤独：为什么我们对科技期待更多，对彼此却不能更亲密？》

奥洛威斯基《监视资本主义：智能陷阱》（纪录片）

明斯基《情感机器：人类思维与人工智能的未来》

格雷克《信息简史》

西尔弗《信号与噪声：大数据时代预测的科学与艺术》