“外包”人生

本文来自微信公众号：经济观察报观察家（ID：eeoobserver），作者：朱悦，标题图来自Unsplash

当前，隐私问题在各国均是热门题目。不过，各国话语中，对“隐私保护”的愿景的描绘未必相同。比如，在欧美，隐私常与“个人自主”密切相关，在部分纲领性文件中，欧盟还反复提及诸如“人类中心的立场”等概念。所谓“个人自主”“人类中心”，此类概念的定义究竟是什么？保护隐私又如何促进以上目标的实现？技术进步面前，这些问题的答案关乎个人福祉。在各国隐私法规政策交汇日益频繁的今天，探讨这些问题，自有其现实意义。

对此最为鞭辟入里的回答之一，来自2018年剑桥大学出版社发行的新书《重塑人性》（Re-Engineering Humanity）。在这本荣获2018年《卫报》“最佳图书”的作品中，法学家Frischmann和哲学家Sellinger联袂，探讨了以下两个问题：首先，在一个已然如此复杂、分工如此精密，以致我们需要“外包”诸多日常事务的世界中，我们如何保证承接“外包”者不会反过来伤害我们的利益？其次，如果我们将太多事务假手他人，我们会不会因此越过了一个特别危险的界限？

Brett Frischmann/Evan Selinger/著

Cambridge University Press/出版

2018年4月

以上两点例子并非理论家的空想。以第一个问题为例，原书援引了这样一则报道：伴随导航技术的日益进步及设备的快速推广，无论是初至陌生地域，还是驾行相对熟悉的路途，大家都习惯开着导航、顺着推荐的线路开行。然而，“设计最短路线”“避开交通拥堵”之外，部分提供导航服务的企业，在安排线路时还掺入了其他考量，比如他们会让用户绕行一些企业暂时缺乏数据的路线，以协助收集信息。如此安排，对用户是否公平呢？

第二个问题则更加微妙。比如，根据原书的叙述，许多人开始依赖记录生理周期的软件来管理情绪，当亲近之人的情绪因周期来临而“波澜起伏”时，他们可以据此反应，安慰她或者干脆少和她说话，技术因而愈发深刻地塑造情感的表达。另一个例子是“站在代码之中呼唤爱”，有人利用自行编写的聊天脚本，在速配平台搭讪、聊天、索要进一步联系方式，当允诺约见一方，发现之前相谈甚欢的不过一段代码时，又该如何反应呢？

两个抽象的问题对应的并非两座“空中楼阁”，而是生活中确实可能遇见的困扰。《重塑人生》作者写作的主旨，即是在类似实例与深入思辨间“往返顾盼”，希求最终为“人类自主”等概念给出一个清晰的解答。本文接下来将述评原书中最为精彩的部分：探讨“外包”的可能影响；深究“外包”的界限；探究“人类自主”的内涵。

反思“技术中立”

从稍微严肃的作品到略显轻松的讨论，以下“原则”近年来愈发常见：技术是中立的。类似的说法还包括“刀不杀人，人杀人”，更进一步的说法，还包括“技术无罪，有罪的是人心”……尽管这一“原则”常用于为新技术辩护，“原则”本身的可靠性却还要打一个大大的问号。即使我们可以假设我们很清楚地了解什么属于“技术”，“中立”的含义也需要仔细检视。

《重塑人性》提供的以下视角，对“捋顺”以上命题当有帮助。首先，少有人质疑以下命题：人类思考，思考亦是“人之所以为人”的重要标志之一。其次，许多情境中，毋须外物，人也可以思考。然而，受制于问题的复杂程度、人的认知能力、外界的期待及压力等因素，人常常需要借助工具来思考。比如，慢悠悠地算简单的式子，结果自然可以在脑海里倒腾出来，面临速度及准确性要求的场合，心算难以胜任，便需要借助工具。

技术常充任“思考之桥梁”。比如，同样是近来相当常见的说法，互联网时代“储存”知识的能力重要性愈发下降，搜寻、整合知识的重要性相应上升。这一说法隐含了以下相应前提，尽管人力的记忆有限，但互联网技术可以补足这一方面，个体无需再花那么多时间做抄记工作，可以将更多时间投入创新。此时，技术扩展了我们的认知，之前提到的导航发挥了类似的功效，花费在记路及寻路之上的精力，现在完全可以投诸其他更重要的任务。

这便是本文开头提到的“外包”。确实，如果单纯只是充任一项扩展的工具，称其为“中立”，认可其“无罪”，看起来并无不妥。然而，这一看似“顺滑”的推理过程，其中蕴含了诸多陷阱。《重塑人生》前半部分对这一看法提出了诸多批评，这些批评大致可以整理为以下几个方面：首先，“承包”这部分认知过程的人，行事方式未必合乎我们的利益；其次，“外包”哪些、“外包”多少，可能并不由我们说了算；最后，“外包”繁重任务的过程，亦是能力退化的过程。

强求技术所有者的目的与用户的利益完全一致，可能已超出合理的限度。不过，要求前者在决策时将后者利益纳入考量，这是应有之义。然而，许多手握技术者有意无意忽略这一点。为写作本书，作者曾与许多书写隐私协议或设计隐私界面的专业人士交流，询问他们书写或设计时的指导原则。结果，“让用户知情”或“保护用户权益”的排序是靠前，而实际操作时最为靠前的，多数情况下都是提高用户在网站中的留存率、延长他们的浏览时间。

第一点与第二点彼此交织，放大了可能带来的隐忧。或许人总比自己想象的更易偷懒、更常轻信。如近年来火热的“助推”思想所主张，通过简单地更易设计或叙述等方面的细节，政府或企业很容易将大众“牵着走”。比如，在界面加把锁，大家会因此相信这个界面很安全，或将默认选项调成“分享数据”，保护隐私的比例会因此下降很多。此时，对技术所有者而言，牵动用户向不合用户自身利益的方向走，并不那么费力。

以上“歧路”可能出于所有者的有意引导，也可能是出于所有者的疏失。仍以前面提到的锁为例，阐释这一点最佳的例子，来自Hartzog的《隐私蓝图》，“阅后即焚”的社交软件在页面加锁，给用户留下“这软件很安全”的印象，实际并非如此，容易获取的第三方软件可以轻易抓取保存其中内容。

当我们将思考“外包”给别人时，我们也部分放弃了锻炼这项能力的机会。比如，曾经的农村社会，钓鱼可能是人人皆会的手艺，捕鱼技艺发展、渔业分工细化以后，个体没有必要自己钓鱼补充伙食，钓鱼也因此成了一项越来越稀少的技艺，甚至有变成小众娱乐的趋势。类似的、更加贴近思考的例子是口算以及珠算等辅助的技巧，便携计算器推广之后，保留这些能力已无必要。这些与思考隐约相关的部分，或以爱好、传统之名得以保留，或就消失。

这衍生出以下两个问题：第一依赖工具愈多，则个体在失去工具时显得愈脆弱。对此类问题，通常有两类解答：一是开发更加稳健可靠的技术，二是要求个体保留相关的能力。尽管《重塑人生》的两位作者偏向第二种解答，但提供的根据似乎不够多。不过，更为有趣的则是第二个问题，我们会不会因“外包”而失去一些至关重要的能力？思考，或者说思考中蕴含的某些关键，是人区分于其他存在的重要特征。我们或许无法容忍将其彻底外包的代价。

人之何以为人

作为人，我们无法容忍失去部分至关重要的能力，那么，这些能力究竟是什么？有没有比较一般的方法来界定，我们是不是已经越过了那条至关重要的界限呢？这是本书后半部分的主要内容，亦是其中法学、哲学与技术碰撞最为激烈的部分。这一部分的结论可能看似颇为新奇，亦注定将充满争议，然而不解答这些问题，我们可能很难为开头的疑惑：“个人自主”“人类中心”究竟是什么？给出一个令人满意的回答。

仍从前面已提到的、记录生理周期的软件说起，这也是两位作者颇为重视、反复提到的例子。此类软件初始的用途并非用来管理“情感”，用其中记录管控沟通频率及方式或许只是少数人信手为之。然而，无论是学者还是从业者，都在努力丰富此类技术的类型、扩大其适用范围。比如，在《美国国家科学院院刊》（常简称PNAS）2018年刊出的一篇研究中，来自心理学及计算机等多个学科的学者，以社交媒体内容准确预测了个体的焦虑状况。

《重塑人性》启发我们进一步想象以下思想实验，用想象进行。不妨假定，技术已发达到通过检测特定的生理指标的程度，一只可随身携带的手环，即足以较高准确率测定佩戴者当时的情绪状况。如此，对一家人而言，只需安装一个共享以上所有数据的应用，即可了解所有家庭成员近来的情绪状况。根据这些数据，家人之间的互动及沟通将变得更有针对性，或更“有效率”。这虽然是一项思想实验，但现有技术距离做到这一步并不遥远。

我们该如何看待这项技术呢？初看之下，这不是什么坏事。起码，对饱受沟通欠缺之苦的父母子女夫妻，能了解到对方的情绪大致如何，不失为一个打开话题的契机。或许，还有部分人会庆幸，终于不用再费尽心思，猜测对方如“海底针”般的心理想法了，对方高兴就上去多聊几句，对方生气自己正好避开，对方有点“丧”正是送上体贴的好时机。如果将人际中的摩擦看作效率的损耗，如此发明无疑是相当“划算”的。

然而，细想之下，如此软件的存在，似乎显得有些“怪怪的”。如果这些“摩擦”“磨合”的过程逐渐“干涸”，亲密的人之间的交往逐渐指向“最大化”特定的情绪指标，这还是我们期待中的情感交往吗？人之所以为人，情之所以至深，至少部分依赖于猜测、试探、改变这一过程，以及其中伴随的更为微妙的心绪游曳，许多时候我们并不期待结果本身，而是期待对方开启这一过程。以技术来“偷懒”，则打一开始就失却了“情”的意义。

当然，更加值得警惕的，是“外包情感”之时，我们是否也因此失却了体验及表达情感的能力？同理，当导航“外包”时，熟识路途的能力将类似神迹；当知识颇便利于查阅检索时，积累及调动“常识”或许也变得十分奢侈。伴随技术的进步，我们在突破许多可能的同时，亦因此失落了许多能耐。其中一些和钓鱼一样，失去这些并不会导致我们因此忧虑“人”的边界。然而，如果失去的是共情呢？如果失去的是常识呢？

自汤普森所称的“时间”诞生而起，由泰勒制等旨在规训的技术而加速，再到以上“失能”趋势越发明显的今天，确定一条不可容忍逾越、或逾越需要十分谨慎的边界，因此变得十分重要。当越过这条线之后，人与器具的界限不再分明，开篇所称的“自主”也已受到了显著的侵害。越过这条线，不仅意味着我们无比依赖于一些自己无法掌控的力量，也意味着我们部分失去了那些作为“人”而言至关重要的属性。

或许，我们需要一种改进版的图灵测试。图灵测试是人工智能的标杆，如果机器可以在远程交流中“瞒天过海”，使对面的聊天者无法区别机器与人，这便意味着机器达到了图灵的“智能”标准。当然，以“交流”作为是否智能的标杆，本身就在强调“人”的独特性中的某个侧面。比如，原版的图灵测试并不强调机器与人外表上相似，也没有选择下棋、打砖块等作为智能的标准。变动标准，可以构造不同版本的测试。

这一测试自然可以反过来用。“人”的行为会不会因技术而日趋简单，以至无法与机器相区分？如果在某些情境中，以上问题的答案是肯定的。那么，这就越过了两位作者主张的“红线”。当然，这一测试的有效性同样随测试的内容而变。如果以生成随机数、口算大数字等作如此“反图灵测试”的准绳，那人很可能永远也比不上机器。如果人事先知晓以上测试，这一预期及接踵预期而来的策略行为可能扭曲结果。因此，测试的具体细节很重要。

是滑坡，但不是谬误

《重塑人生》的后半部分是针对各候选指标的“无穷无尽”的思辨讨论，情感、理性、创造力、意志力、理解语言、使用语言，规划未来，等等。两位作者的落脚点主要放在“理性”与“常识”之上。对前者，人类似乎总有“行为不理性”的趋势，人仅在极贫乏时理性，却常在丰裕时“沉溺于无用之物”；对后者，作者强调人能够“娴熟地运用常识”。尽管始终没有下定论，但“理性”方面的不确定性及对“常识”的信手拈来，似乎是原书相信的、能够为“人”立下界碑的位置。

两位作者所取的思路注定充满争议。当分析链条过于冗长、从现实一步步上升至哲学思辨时，所谓的“滑坡谬误”很难避免，仅仅是其中少数几个链条的不甚可信，便足以将整个推理的强度削至谷底。实际上，这也是许多反思互联网、技术、隐私等领域的书籍面临的共同批评，许多批判或者需要类似“极端情况”的假设，或者需要诸多前提的共同作用。如此思考手法，可能忽略了个体实际具备的“弹性”与“韧性”，有“杞人忧天”之感。

两位作者对此相应的回答颇为有趣：确实，“滑坡谬误”颇为频繁。然而，如果作者能够指明，“人从坡上滑下”的具体路径，并且说明为何踏上这些路径确有可能，那即使链条漫长、远景宏大，相应的推论仍有迹可循、并非谬误。纵观全书，他们的心愿，确实也大体上实现了，技术的趋势确实蕴含着危险，我们用以扩展认知的工具，可能因循多种路径，反导向我们不乐意看到的结果。为避免这些结果，我们需要一条边界。借助已有众多先行探究的图灵测试，他们为这条边界，描绘了一幅可能稍显模糊、但依稀可认的剪影。

结语与简评

反思互联网变革的书籍很多，但既熟稔企业状况，又了解稍微抽象的法律，还通高度抽象的哲学的作者组合并不多。如此“跨界”，赋予了《重塑人生》别致而难以替代的魅力。即使最后得出的更多是哲学层面的结论，本书也不无实际意义。一方面，两位作者的理论，确实是解读“个体自主”“人类中心”等大词时一条可行的进路；另一方面，如果我们承认，技术正以超越大多数人想象的速度及限度塑造人，部分植根于“意思自治”的合同法，或许需因此修订。为争议所萦绕的隐私协议，即是一个典例。

尽管如此，原书仍有许多可讨论之处。

首先，就论说本身而言，对“理性”及“常识”的解读，都有意犹未尽之感。如何定义“不理性”？这确实是长期以来众说纷纭的问题，要求答案尽善尽美，未免有些强人所难。然而，如果缺乏明确标准，这一点恐怕很难胜任所谓标准的作用。此外，原文还列举了许多可能性，比如情感、创造力等。以这些为界限，是否可以让作者主张的测试更加清晰？抑或，这些指标中存在难以克服的缺点，导致其不是最优的选择？如此权衡似可进一步精炼。

其次，技术如何改变人，既是一个思辨层面的问题，也是一个实证层面的问题。两位作者举出青少年过度分享隐私方面的文献，以此强调人的被动一面，以及采取行动的紧迫性。然而，这一点可能低估了新世代。来自加州伯克利大学的Hoofnagle等学者，以及来自牛津大学的Blank等学者，都曾分别做过类似题目上的实证。青少年并没有因为浸泡在社交媒体中而对隐私“漠不关心”，他们反而更加频繁、灵活地运用软件的隐私设置，且清晰地知晓隐私管理的意义。面对新的文化及偏好，许多结论似乎下得略有些早。

当然，以上讨论，都不会减损一本思辨如此深厚的著作的价值。实际上，在技术及商业协同迅速演进、相关研究如泉喷涌的当下，任何在这一领域写作的学人，都难以摒尽以上诘问。社会的风潮可能转向，实证的结果可能修订，理论思辨的结晶，却极少会因风尚的流转而失却其光芒。技术仍将是“双刃剑”，对“人如何自处”的疑惑及迷茫仍将存在。

本文来自微信公众号：经济观察报观察家（ID：eeoobserver），作者：朱悦，标题图来自Unsplash