扫码打开虎嗅APP

搜索历史
删除
完成
全部删除
热搜词
AI时代的复杂系统科学正推动科研范式从还原论向系统论转变,为理解从细胞到社会等各类复杂系统提供了普适性方法论,并与人工智能技术深度融合,共同应对未来科学挑战。 ## 复杂系统科学:在各类系统中探寻共性规律 1. **跨领域共性的追求**:复杂系统科学的核心在于从经济、社会、技术、健康等迥异领域中,提炼出“涌现”、“演化”等普适概念,以及“规模法则”、“复杂网络”等普适规律和方法论。 2. **未来科研的核心逻辑**:未来科学需要将“自下而上”的还原论与“自上而下”的系统论结合,形成“反绎推理”,这是研究复杂系统的核心逻辑。 3. **对还原论局限的回应**:系统科学的诞生是对近代西方科学还原论、线性思维及单向因果等局限性的自然回应,其研究核心是探索结构、环境与功能的普适关系。 4. **催生新方向与教学挑战**:复杂性科学已催生出混沌理论、人工神经网络等新方向,但也带来教学挑战,即如何让学生看清其理论根基,理解学科多样性之下的内在一致性。 ## AI带来的新机遇 1. **研究范式的数据驱动转变**:AI技术推动复杂系统研究从早期的规则驱动多主体仿真,跨越到基于海量真实数据的数据驱动建模新阶段。 2. **构建数字孪生“虚拟实验室”**:依托大数据和AI算法,可以构建低成本、非破坏性的数字孪生系统,用于疾病传播等突发事件的长期干预研究和演化模拟。 3. **表征学习与新的数学工具**:神经网络的嵌入技术能将高维系统降维,但同时也倒逼我们发展新数学工具,以结合AI手段描述如水平基因转移等复杂网络的演化关系。 4. **“AI for Science”的核心**:需要AI深度介入的科学问题本质上是复杂系统问题,“面向复杂系统科学的人工智能”正处于“AI for Science”的核心位置。 ## 与各学科的深度融合 1. **生命健康领域的应用**:复杂系统方法应用于数字虚拟细胞研究,实现从单细胞到组织、脏器层面的多尺度动态表达,并提炼普适研究范式。 2. **生命起源与核聚变控制**:从网络整体视角研究化学反应如何“涌现”生命特性;AI可对托卡马克装置中的等离子体进行毫秒级精细调控,提升运行稳定性。 3. **材料科学与脑科学**:网络科学与材料科学结合,可逆向设计特殊材料;AI图像识别技术使完整绘制果蝇大脑神经连接图谱(原需五万人工年,现仅需三十三人工年校对)成为可能。 4. **气象预测与社会仿真**:融合物理机制与深度学习,精准刻画复杂气象;利用大语言模型构建高度逼真的智能体,深度模拟社会以辅助决策,并催生对“人机混合社会学”的前沿关注。 5. **多领域深度耦合建模的展望**:未来突破点在于多领域深度耦合建模,整合不同领域知识和数据的大型模型可能先于人类洞察复杂系统间的深层共性规律。 ## 复杂系统研究助力AI发展 1. **解释AI中的复杂现象**:大语言模型的“涌现”能力和“规模法则”是复杂系统中普遍的突变、相变和标度律的体现。 2. **引入成熟方法论**:非平衡态统计力学可被用于建模训练过程;复杂网络和因果分析等工具为模型可解释性挑战提供了新路径。 3. **提供底层架构与方法论**:复杂系统研究为AI提供脑启发计算架构参考,其临界动力学等理论与智能涌现机制密切相关,并提示当前AI发展缺乏系统调控思维。 4. **提供系统性的理论工具**:基于钱学森的系统科学层次结构,复杂系统科学形成的理论工具体系(如系统演化论、认知论、调控论)为理解和设计智能系统提供了新视角。 ## AI浪潮中的忧虑与挑战 1. **可持续架构与下一代AI路径**:当前高算力模式不可持续,需发展低功耗、分布式智能架构;复杂系统方法论可为探索大模型之外的真实智能路径提供支撑。 2. **能耗与社会连锁反应**:AI的指数级能耗加剧资源环境压力,其引发的失业风险等社会复杂系统问题需从整体演化维度高度重视。 3. **“AI泔水”与长期记忆瓶颈**:使用AI生成内容进行二次训练会导致模型性能衰减;解决长期记忆瓶颈需从信息论视角探索结构化压缩,而非简单增加token。 4. **灾难性遗忘与信息生态**:从动力系统视角看,灾难性遗忘源于新任务破坏了原有参数空间的吸引子;复杂系统理论可用于辨识和调控算法导致的信息茧房等异常信息流。
2026-03-19 14:40

AI时代的复杂系统科学:为科学研究提供普适范式

本文来自微信公众号: 集智俱乐部 ,作者:杨明哲、赵维杰


自十七世纪科学革命以来,还原论奠定了现代科学的根基。将系统拆解为最小单元、通过理解部分来推演整体,这一方法论在物质科学、生命科学乃至社会科学中取得了无与伦比的成功。然而当科学的前沿从“寻找基本构件”转向“理解构件如何产生整体行为”的时候,还原论的局限日益显现:我们拥有了海量的数据与精确的局域方程,却依然难以预测一个细胞的命运、一场金融危机何时爆发,或是一个神经网络如何涌现出复杂功能的认知。


在这样的背景下,复杂系统科学,一门起源于二十世纪中叶、致力于探索各类复杂系统的结构、行为、演化及其背后科学规律的学科,正在与各学科领域深度融合,从根本上改变科学研究的范式。更值得关注的是,人工智能技术的飞跃发展成为了引爆这场范式转变的关键因素。一方面,人工智能算法擅长处理海量数据与复杂系统;另一方面,人工智能系统本身也是一个复杂系统,其发展与复杂系统科学密不可分。


在此次NSR论坛中,五位复杂系统科学领域的一线研究者汇聚一堂,从复杂系统科学的本质出发,探讨其如何在AI时代与各学科深度融合、甚至为科学研究的整体范式转变提供必要的支撑。

讨论专家



高婷婷(美国东北大学物理系,Network Science Institute)


杨明哲、赵维杰丨整理


复杂系统科学:在各类系统中探寻共性规律


:什么界定了复杂系统科学?它在现代科技发展中扮演着怎样的角色?


:顾名思义,复杂系统科学就是研究复杂系统的科学。复杂系统无处不在,甚至在互联网与人工智能飞速发展、全球的连通性已达到前所未有高度的今天,整个地球已演化为一个“全球城市”、一个统一的复杂系统。


在这样的背景下,传统的单一学科研究范式已难以应对当前的挑战,而复杂系统科学与其他学科最大的不同,在于其对跨领域共性的追求。它致力于从经济、社会、技术、社会、健康医疗等迥异的领域中,提炼出如“涌现”与“演化”等普适性的核心概念;及类似“规模法则(Scaling Law)”、“幂律分布”这样的普适规律;以及像“复杂网络”、“非线性动力学”这样的普适研究方法,在各基础学科之上抽象出共性的底层逻辑。特别是在人工智能时代,建立统一而普适的方法论——尤其是数据驱动的建模与控制手段——显得尤为关键。


:当前我们正在经历一场深刻的科研范式变革。传统研究多基于还原论,侧重于“自下而上”的演绎推理。而未来科学则要求我们将“自下而上”的还原论视角与“自上而下”的系统论视角结合起来,二者循环迭代,形成“反绎推理”,这应当是未来研究各类复杂系统的核心逻辑,这也是陈德亮院士近期提出的观点。


:在我看来,复杂系统科学是系统科学的前沿发展方向。系统科学的英文表述是Systems Science,其中“系统”是复数的(Systems),而“科学”是单数的(Science),也就是说,我们要从各类迥异的系统中提炼出普适的科学本质。这也就是张江所说的“追求共性”。


我们的研究核心在于探索结构、环境与功能之间的普适关系,以及演化、认知与调控的一般规律。系统科学的诞生,实际上是对近代西方科学还原论、线性思维以及单向因果等局限性的自然回应。


:当前最重大的科学与工程难题都与复杂系统紧密关联,这些难题均呈现出多结构层级、跨尺度耦合、强交互反馈、多主体决策协同等特点。因此,复杂系统研究必然是跨学科问题的驱动,跨学科的方法的融通,需要在各个学科深度综合交叉中涌现新的研究范式,形成新的突破和增长点。


:复杂性科学已经与诸多领域深度融合,并催生出新的研究方向。例如,混沌理论的出现彻底改变了气象预报追求“精确预测”的传统范式;人工神经网络的诞生,也是源于统计物理中Ising模型等复杂系统研究的启发;生物学中的进化算法与遗传算法,在“前AI时代”便已发挥了关键作用;而在医学领域,将癌症视为一个“人体微环境生态系统”而非单一疾病,通过研究不同细胞间的相互作用来理解病理,正是复杂系统思维带来的范式飞跃。


但是在复杂系统科学的教学过程中,我发现学生往往只看到复杂系统科学催生出的茂盛“枝叶”,如混沌、癌症微环境等新概念,却难以看清该学科本身的理论根基。复杂系统科学不断催生出新的学科,却又反过来导致很多学生不清楚复杂系统研究本身的边界和意义。这也使我们作为教师肩负起明确的责任。同时,这也是一项并不简单的教学挑战:需要将贯穿其中的内在主线清晰地呈现出来,使学生能够把那些突出的应用重新与基础概念联系起来,并在学科多样性的表象之下理解其内在的一致性。


:确实如此,我观察到很多研究者容易将复杂性科学与网络科学混为一谈。事实上,网络科学固然是其中一个极其重要的分支,但复杂性科学的内涵远不止于此,它还涵盖了混沌、涌现、临界性、非线性动力学等诸多核心领域。在实际研究中,相当一部分以“网络科学”为名展开的研究工作,实际上在不同程度上借鉴了更广义复杂性科学中的概念与方法,即便这些更为广泛的思想渊源在研究框架的表述中并未被明确强调。


:学科边界问题确实至关重要。目前许多年轻学者和学生在研究中实际运用了复杂系统科学的方法,却往往将其误认为是生物学或经济学等特定领域中的工具。而实际上这些新近发展的研究手段常常是不限于特定学科的、跨领域的通用方法。


:复杂性科学与数学其实非常相似,都具有极强的普适性。学生不会质疑数学的价值,却对复杂性科学的应用价值认识不足。我们可以借鉴数学的传播与教学逻辑,向学生理清这些从具体学科中抽离出来的本质问题,明确其属于复杂性科学的范畴。


AI带来的新机遇


:现在AI技术的发展可谓日新月异。AI为复杂系统研究带来了哪些新的机遇与挑战?


:AI与复杂系统科学之间的关系一直都极其密切。在二十世纪九十年代至本世纪初,复杂系统研究主要采取多主体仿真的范式。由于当时硬件无法支撑大模型,研究者多通过设定简单规则,利用智能体模拟鸟群、蚁群等系统的互动与涌现。


进入二十一世纪第一个十年,纯粹基于经验假设的计算机模拟逐渐显现出局限性,研究者开始追求模拟与现实世界的深度耦合。恰逢移动互联网与大数据技术崛起,个人数据被广泛记录,网络科学与计算社会科学应运而生。这一阶段的研究重心转向了基于海量真实数据的规律挖掘与分析,使得复杂系统研究从早期的规则驱动跨越到了数据驱动的新阶段。目前,数据驱动的复杂系统建模已成为核心趋势。


:依托大数据和AI等先进算法,我们现在可以构建数字孪生的“虚拟实验室”。这种“沙盒实验”模式能大幅降低研究成本,让我们在不具破坏性的前提下,对疾病传播等突发事件进行长期的干预研究和演化模拟。


尽管前景广阔,但复杂系统研究仍面临严峻挑战。其中之一就是“涌现”的机制问题,我们目前仍难以清晰地从微观规则严格推导出宏观现象。此外,如何在对系统进行“粗粒化”处理以提升研究效率的同时,不损失关键信息并保证系统的完备性,也是亟待攻克的科学难题。


:除了海量数据,当前的另一个机遇在于神经网络提供的表征学习与嵌入(Embedding)技术,能将极其高维的系统(如语言、基因或蛋白序列)降维到易于理解的较低维的语义空间。但同时这也给复杂系统科学带来了新的挑战。以生物演化为例,传统的“二叉树”模型无法描述物种间的水平基因转移等网状演化关系。我们现在可以很便利地获取基因转移的数据,而这正倒逼我们去发展一套全新的数学工具,结合AI的手段来描述复杂网络的遗传与演化。


:二十年前,我曾提出系统科学包含两大核心主题:复杂性与智能化。复杂性研究加深了我们对世界的理解,而智能研究则赋予我们改造世界的能力。当今时代,大模型、大数据、强大算力以及综合性平台的发展,使得解决那些曾经难以处理的复杂问题成为可能。


“AI for Science”已经成为一种重要的研究范式。然而,我们应当注意到,那些需要人工智能深度介入的科学问题,在本质上往往都是复杂系统问题。换言之,“面向复杂系统科学的人工智能(AI for Complex Systems Science)”正处于“AI for Science”的核心位置。由于复杂性既是自然界的基本特征,也是人类社会的基本特征,这一视角也自然地从自然科学延伸到工程科学与社会科学领域。


:从社会发展层面看,复杂系统研究契合社会经济发展的要求,是引领科技跃升的关键。欧美等国自20世纪70年代起便已开展系统性布局,中国虽有深厚基础,但研究力量目前仍分散于各成熟学科体系之中。面对国际竞争,中国亟需强化在复杂系统科学领域的整体布局与综合交叉的组织推进。


与各学科的深度融合


:刚刚我们已经讲到,复杂系统科学与许多学科深度融合,不断催生出新的理论和方法,AI也在其中发挥着重要作用。在这方面,大家可以再提供一些具体的案例或思考。


:复杂系统科学的研究方法已广泛应用于生命健康等前沿领域。一个例子是数字虚拟细胞研究。在数字虚拟细胞前沿领域,科学家将传统的单尺度描述转向构建多尺度建模计算,尝试实现从单细胞数据到组织乃至组织、脏器层面端到端的生理特征状态的动态表达。


更重要的是,通过对单一领域复杂问题的探索,我们可以提炼出规律性的认识,总结出一套普适的研究范式,进而推动共性的复杂性科学的发展。


:在我研究的生命起源与人造生命的领域里,无论是化学反应网络中的震荡现象,还是生命的自我复制特性,其核心都在于化学反应如何在网络层面实现耦合。这种从网络整体视角出发,研究系统如何“涌现”出生命性质的方法,正是复杂系统科学的精髓。近期的一些研究表明,机器学习可以在人工生命模拟中自动识别出类似生命的模式,这有望帮助人们发现此前未知的生命组织形式。


另外一个例子是,在磁约束核聚变装置托卡马克中,等离子体形态控制往往可能需要毫秒级闭环反馈。在强耦合和模型不确定性较大的情况下,传统控制器往往难以调参,并且在不同运行工况之间的泛化能力有限。现在借助AI,可更高效地对线圈电压以及加热/电流驱动功率等执行量进行更精细的在线调控,从而显著提升长脉冲运行的稳定性与鲁棒性。


:我目前在美国参与了一个名为“COMPASS(Center for Complex Particle Systems)”的项目,该项目尝试将网络科学与材料科学深度结合。该项目认为网络科学是推动新兴材料的发展、加速材料模拟进程的重要理论,还能基于图信息通过逆推方法设计出超越传统重复晶格结构的特殊材料。


这种以网络与相互作用为中心的视角同样推动了我们在衰老研究方面的工作。历史上,衰老研究往往侧重于单个分子或基因。然而,仅通过孤立地研究各个组成部分,并不能充分理解衰老;从根本上说,衰老是一种由跨尺度组件之间相互作用所涌现出的集体动力学过程。因此,我们强调采用能够显式刻画相互作用结构和系统层面动力学的研究方法。


近期,普林斯顿大学等机构合作完成的FlyWire项目首次完整绘出了果蝇大脑的神经连接图谱。这项工作如果完全依赖人工,需要耗费五万个人工年,几乎是不可能完成的任务。但是在AI图像识别与分割算法的加持下,研发周期大幅缩减,只需要三十三人工年的校对时间。


:气象系统也是一个典型的复杂系统案例,其内在的混沌特性使得传统分析手段难以给出精确的预测结果。但随着大规模传感器网络积累了海量的地球系统数据,我们现在可以借助物理启发式或融合专家知识的建模方法,与基于深度学习的数据驱动建模方法相融合,实现对复杂气象演变过程的精准刻画。这种范式的转变不仅为天气预测、气候演化研究带来了突破,也为更广泛的AI辅助复杂系统预测问题提供了研究范式。


大语言模型的兴起也为复杂系统研究开启了全新的研究范式。以社会科学领域的多主体仿真为例,过去这类研究往往受限于简单的预设规则,缺乏真实感。而现在我们可以利用大语言模型支撑每一个智能体,使其具备模仿人类心理、性格及决策特征的能力。这种结合使仿真过程高度逼真,能够更深层次地模拟现实社会并有效辅助决策。仿真的终极目的不应仅仅停留在“观察与被观察”的隔离模式中,而是要通过这种高保真的模拟,为解决复杂的现实社会问题提供实质性的科学支撑。


展望未来,人类正与AI智能体深度融合,共同构建起一个新型的人机混合社会。但随着智能体的激增,我们亟需关注“人机混合社会学”这一前沿概念。令我深有感触的是,人工智能正从辅助复杂系统研究的工具,逐渐演变为研究对象本身。它与人类社会交织而成的现实复杂系统,已然成为当下及未来最具科研价值的核心课题。


在听了各位老师的分享后,我也产生了一个新的思考——我们应该关注多领域的建模。目前我们利用人工智能开展研究时,大多还局限在气象、环境或经济等单一领域的建模。然而,复杂性科学的真谛在于发掘不同系统背后的共性规律。


回顾大语言模型的发展历程可以发现,其性能之所以产生质的飞跃,关键在于它打破了单一任务的限制,通过跨领域的学习实现了能力的爆发。由此我预感到,未来一个重要的技术突破点可能在于多领域的深度耦合建模。当我们把不同领域的知识和数据整合进一个更大的模型时,这种跨领域的关联可能会带来认知的二次跃迁。这种大型模型或许能先于人类洞察到复杂系统间深层的共性规律,这正是我们研究复杂性科学所追求的。


:当代科技发展已步入一个必须直面系统复杂性的新阶段。尽管许多学科领域仍然依赖以“案例驱动”的方式来解决具体问题,但要实现更深层次的系统调控,并形成对复杂性的整体性理解,已经成为亟需突破的关键挑战。科学演进的本质,正是在于从特殊到普遍、再由普遍指导特殊的辩证循环过程。因此,复杂系统研究必须始终紧密结合具体的现实对象,并坚持“理论源于实践”的原则,以避免研究流于空泛或脱离实际。


复杂系统研究助力AI发展


:接下来我们换个视角来讨论。毋庸置疑,AI本身已经可以被看作是一类复杂系统了,那复杂系统科学具体如何助力AI的研究呢?


:首先,大型AI模型深刻地展现了复杂系统所共有的现象与规律。最引人注目的莫过于大语言模型的“涌现”能力。当模型参数量达到某一阈值,它的某些能力(比如逻辑推理)会突然地显著提升。这种从量变到质变的跃迁,本质上是复杂系统中普遍存在的突变或相变。另一个典型现象是规模法则(Scaling law),即模型性能随数据量或参数规模的增长而呈现系统性的标度律式的提升,这同样是复杂系统研究中的核心课题。


其次是关于复杂系统的成熟方法论的引入。令我印象深刻的一项研究是将非平衡态统计力学应用于大模型训练过程的建模。研究发现,训练过程与朗之万方程高度相似,不同的训练算法细节对应方程中的不同项。这意味着我们可以借助物理学的理论工具来统一分析甚至优化学习算法。


此外,针对AI模型面临的可解释性挑战,复杂网络和因果分析等工具也展现了巨大的潜力。可能原本数据中看不出来因果关系,但AI模型会从中学到因果机制。我们可以利用复杂网络从结构维度刻画模型内部的规律,或者通过因果分析对模型进行溯源与归因,从而深入解读模型所习得的知识。


:首先,复杂系统研究为AI提供了核心的底层架构参考。通过结合神经生物解剖学等具体领域的生理知识,我们可以构建出脑启发的计算架构,例如脉冲神经网络、整合触发网络动力学模型及其学习方式等,从而推动新型人工神经网络乃至人工智能框架的开发。


其次,复杂系统为我们提供了理解AI现象的有力方法论。目前,复杂系统的临界状态与临界动力学是核心研究课题,这与人工智能中智能涌现的机制密切相关。此外,在与业界工程技术专家的沟通交流中也能体会到,当前大模型的发展还非常依赖于传统计算机领域的编程思维,侧重于通过代码编写和资源投入来达成智能的“人工”目标,而相对缺乏自动控制领域系统调控的思维以及现代控制方法的全面实践。


:我也分享一点看法。复杂系统科学作为一门学科能够为AI发展提供什么?要回答这个问题,我们首先需要明确这一学科本身的研究范围。钱学森先生曾提出系统科学的四层次结构:哲学层次(系统方法论)、基础科学层次(系统学,systematology)、技术科学层次和工程技术层次。我在《系统学是什么》一文中进一步提出了系统学的“五论”结构,即系统方法论、系统演化论、系统认知论、系统调控论和系统实践论。每一论均具有丰富的内涵,尤其是中间三论,已积累了大量理论方法与定量研究成果。整体而言,这一理论工具体系为理解和设计智能系统提供了一种新的视角。


从科学史来看,技术实践常常先于理论发展——正如航空技术的实际实现在很大程度上早于成熟而定量化的空气动力学理论的建立。当前人工智能技术飞速发展,但其理论基础支撑依然薄弱。由于AI本身就是一个不断演化的复杂系统,它在安全性、可靠性、鲁棒性以及可解释性方面都面临着关键挑战。复杂系统科学或许能够为解决这些基础性问题提供新的路径。


AI浪潮中的忧虑与挑战


:大家对于当前AI和复杂系统科学发展中暴露出来缺陷和问题有怎样的观察和思考?


:我担忧的是发展是否可持续。尽管当前大模型和高算力是主流,但若要让人工智能真正深入人类社会的方方面面,我们需要借鉴复杂系统的思想,既能抽丝剥茧,也能串珠成链,实现低功耗、分布式、便携化的智能架构。从长远来看,这种更具可持续性的架构设计或将是未来智能科学与技术研究的关键之一。


针对人工智能的未来方向,学术界正深入探讨大模型是否为通向真实智能的唯一路径。我认为复杂系统的方法论可以为下一代人工智能的发展提供很好的支撑,我们也在致力于运用和发展复杂系统的相关方法,设计新型智能框架,创建智能算法理论。


:我也一直关注让模型在低功耗的小型设备上高效运行。通过对密集网络进行稀疏化处理,我们可以引导其自发演化出具有小世界网络属性和模块化特征的架构。我们的研究表明,如果在训练过程中同时考虑三维空间中的连接代价和训练精度,循环神经网络会逐渐演化出与人类大脑高度相似的结构特征。这种复杂性科学与AI的深度融合,通过跨学科的知识凝结产生重大科学突破,如前面提及的FlyWire项目,这些来自神经科学、网络科学和发育生物学的深刻见解,可以启发我们发展出更加高效的智能架构,突破目前的缩放定律(scaling law)。这种跨学科的交叉融合,不仅是实现具身智能(Embodied AI)的关键路径,也为构建能够适应复杂、动态环境的下一代高效智能系统提供了理论基础。


:能耗确实是一个亟待解决的技术难题,而更本质的挑战在于AI已深度嵌入整个人类社会。这种嵌入正引发一系列严重的连锁反应:一方面,指数级增长的能耗正加剧全球电力短缺与环境压力,挑战着地球的资源承载极限;另一方面,技术变革带来的失业风险正从基础行业蔓延至高端白领阶层。这些涉及环境、资源与社会结构的复杂系统问题,不应被单纯的技术进步所遮蔽,需要我们从社会整体演化的维度给予高度重视。复杂系统科学也许可以在AI的环境影响以及AI的社会性方面提供重要的理论支撑。


:现在有一个流行词,“AI泔水”,即AI生成内容被再次用来做语言模型的训练。研究表明,利用AI生成的内容进行二次训练会导致模型性能持续衰减。大模型之所以强大,根植于其学习了人类文明数百年治理后的高质量语料。探索如何从训练体系中有效识别并剔除这些合成语料是当务之急。


长期记忆是另一个瓶颈。当上下文过长,模型往往难以维持有效记忆,而简单的外部存储又会导致数据冗余。一种有前景的方向,是不要将记忆简单理解为“更多的token”,而是将其视为一种结构化压缩:构建能够在保留预测结构与因果结构的同时,舍弃重复或低价值细节的表示形式。这种压缩不应单纯依赖模型自身的循环处理,而应从信息论与算法信息论的视角出发,探索如何高效提炼关键信息。这两者正是复杂系统科学的重要理论支柱之一,可用于确定哪些信息应当被保留、以何种粒度保留,以及在怎样的保真度约束下进行保留。


:灾难性遗忘问题也值得关注。不同于人类知识的习得与累积,神经网络在获取新技能时往往会丢失旧记忆。从复杂系统的视角出发,许多研究将神经网络视为高维参数空间中的动力系统,不同任务相当于不同的吸引子,新任务的引入实际上破坏了原有吸引子的稳定性,所以会有灾难性遗忘。为了缓解这一痛点,我们可以通过约束梯度下降方向来避免关键参数的过度偏移,或者引入模块化机制,在屏蔽旧任务干扰的同时激活新模块,从而在演化过程中实现新旧知识的共存与协调。事实上,复杂系统科学一直在助力于人工智能的研究,许多如蚁群算法、扩散模型这等突破性进展都植根于此。


此外,我们还面临着被算法过度投喂的风险。自2020年以来,信息流呈现出爆发式且难以管控的态势,深刻重塑了人类社会的注意力分配,并加剧了信息茧房效应。我认为应当引入复杂系统理论对这类异常信息流进行辨识与调控。

本内容来源于网络 原文链接,观点仅代表作者本人,不代表虎嗅立场。
如涉及版权问题请联系 hezuo@huxiu.com,我们将及时核实并处理。

支持一下

赞赏

0人已赞赏

大 家 都 在 搜

好的内容,值得赞赏

您的赞赏金额会直接进入作者的虎嗅账号

    自定义
    支付: