《理解和改变世界》：理解人与技术关系的新世界观

自古以来，我们关于知识存在三类基本问题：目的论、本体论和认识论。

希发基思认为，认识论问题，即与知识的发展和应用有关的问题，要从严格的方法论和逻辑学角度加以探讨；知识不仅涉及物理实在，而且涉及所有精神和社会现象。

人类或机器生成了不同类型知识的金字塔层次，从最底层开始依次为:

事件和条件（信息）——基于数据的普通经验知识——基于模型的科学技术知识——非经验的数学、计算知识——元知识

这五个层次的知识大体上一类是纯粹的逻辑构造，另一类涉及从观察和实验数据中提取的信息。

在当今这个时代，拥有知识比拥有物质产品更为重要，也更具有战略意义，如果人们可以掌握管理知识的元知识，那么就可以利用知识来控制物质世界并应对全球挑战。

最常见的经验知识是关于表征特定时间和地点事实的显性知识；科学技术知识是通过使用模型进行加工和系统化的过去的经验知识。科学知识旨在理解物理世界，而技术知识则基于科学知识创建新的产品或流程；非经验知识是植根于逻辑规则的基于模型的知识。最后，元知识是关于如何处理知识的知识。它结合各种知识来进行系统的控制和决策。

作者主张，不同知识具有不同程度的有效性和发展方式，应该摆脱狭隘的知识概念和片面的知识标准，促进不同的知识交织在一起相互影响。

知识的应用

知识的应用也伴随着相关的问题。

首先，要了解科学性的局限，科学与非科学之间并不存在明确且绝对的区分。

其次，也要识别科学主义的危险，草率采用表面上看起来科学的方法是件危险的事情，我们需要有自己的辨别能力，不能迷信于科学主义，否则我们在目前人工智能被广泛应用的情况下，面临实实在在的风险。

再次，专业知识的神秘化也是一种威胁，让人们认为好像所有严肃的事情都必须经过专家判断并最终决定，计算机对知识的管理更是强化了这种神秘的感觉。

知识的应用中，研究创新也至关重要。创新要形成一个完善的创新生态系统，这个生态系统需要研究机构、工业企业、初创企业这三个因素协作，同时也要汇集专家、科学家、工程师和管理人员等重要的人力资源，需要有特殊的创新文化。

人类和机器如何生产并应用知识

通过比较人类和机器如何使生产并应用知识，考察计算机是否以及在何种程度上能够接近人类的心理能力。开发值得信赖的自主系统，是缩小机器智能和人类智能之间差距的关键一步，能够帮助人类实现强人工智能的愿景。

人类智能与人类思维

人类智能能够把对感官信息的感知/解释、信息的逻辑处理，以及可能导致行动的决策结合起来。人类思维包含了两种思维方式，第一种是较慢却有意识加工的思维，它是程序性的并需要推理规则，我们能使用慢速思维有意识地解决问题；第二种是快速却自动，即无意识的思维，这种自动思维可以让我们解决复杂度极高的问题，是人类智能中最重要的部分。两种思维之间协作互补，并对应着不同的计算模式，慢速思维是基于我们理解事物的心智模式，这种模式与对计算机进行编程的计算模式类似；快速思维是有意识学习的结果，通过反复训练内化成自动的模式，这与人工神经的计算模型一样。

弱人工智能

人类思维的计算拥有弹性，它具有天生的适应机制，使得语言和概念成为可能。但是人类思维的本性限制了我们探索知识的能力，计算机则能帮助我们克服这种限制，在大量解决方案的检索问题或者大数据的组合问题上，计算机往往能超越人类，一些人类被机器击败的事实使人们开始相信计算机比人类“更聪明”。但人类智能的特征是自主行为以及对内、外部环境变化的适应，这是人类大脑能够创造新知识、理解从未遇到过的情况，以及设定新目标的关键所在。目前机器学习并不能做到一点，只有当计算机系统能够自主执行大量任务，并且能够适应不断变化的环境时，这种弱人工智能才能增强。

自主系统通往强人工智能

从自动化系统发展为自主系统能够超越弱人工智能，在自主系统中，人的作用是设定和调整目标，目标的实现完全交给自主系统来实现。自主系统将“自主”定义为：为了适应环境的变化，系统在没有人为干预的情况下，实现一系列目标的能力。自主系统中有五个关键的功能协同工作实现自主性，环境感知和状态表示这两个功能可以理解环境状况，目标管理和策略规划这两个功能可以进行决策，自主学习帮助系统自我学习。

应对人工智能的挑战

一些人工智能所带来的风险是假想的风险，比如认为计算机智能最终超越人类智能，人类变成机器的宠物，这种观点实际上缺乏严肃性，站不住脚，因为再强大的机器也不足以战胜人类的智慧。

个体如何更好地选择和决策

意识赋予世界意义，意识推动了人类一切行动和创造力，意识创造了文明并在很大程度上改变了世界。我们需要构建起关于意识的理论，用认知论观点对个体意识的功能进行分析，帮助我们在更奇妙的维度上认知自我。

意识是一个自主系统

意识本身也是一种自主系统，能依据价值标准和积累的知识管理短期目标与长期目标，理解意识有利于我们在复杂信息中做出更好的个人和社会决策。作者定义了一个信息系统，称之为心理系统架构，它的行为接近于有意识地思考，展示了意识是如何进行工作的。这个心理系统也是一个自主系统，它由三个部分组成，理解和建立环境模型，产生需求以及为满足需求而设定的相关目标的意愿，目标管理、规划和实现的决策。

实现目标的策略和方式

心理系统会有着实现目标的策略和方式，根据一组目标的重要性和紧迫性进行排序，选择目标后，大脑会计算出实现目标的方式。选择的存在塑造了自由，自由的代价是增加了风险管理的复杂性以及面临在相互冲突的行动之间进行选择的困境。我们需要在自由和安全之间作出平衡，每个人都应该利用自己所享有的自由来有效地实现目标，同时也不能对自己的安全造成威胁。

意识和潜意识共同协作

人类有意识和潜意识两种思维系统，二者共同协作，从而做出决定并实现目标。大脑有意识地培养自动思维来执行一些功能，但有时，意识会暂时停止工作，将控制权让给潜意识，让潜意识不受阻碍地自主运作。我们可以在潜意识的直觉反应和意识的选择之间取得良好的平衡，潜意识的直觉反应可以帮助我们克服复杂性，而让意识专注于那些有意义和创造性的选择上。

计算机拓展人的意识

意识处理信息的能力有限，意识如果不能认识到自身的局限性——只能部分地理解世界，这对其本身来说是一种危险。我们可以利用计算机丰富我们的知识，并间接地增强我们的心智能力。计算机可以帮助人类拓展智力，可以分析大量的数据，扮演着类似于人类的潜意识，类似于“协同处理器”。

这本书所提出的认知论与传统科学哲学和知识论有所不同，某种程度上是理解人类智能、人工智能以及人与技术关系的新世界观。