弹性，即在故障和错误中保持基本功能的能力，对于复杂的网络系统至关重要。大多数分析方法依赖于节点活动动态的预定义方程，并简化了对网络拓扑的假设，从而限制了它们对实际系统的适用性。在这里，我们提出了 ResInf，这是一个集成了 transformer 和图神经网络的深度学习框架，可以直接从观察数据中推断弹性。ResInf 在不简化假设的情况下学习节点活动动态和网络拓扑的表示，从而实现准确的弹性推理和低维可视化。实验结果表明，ResInf 的性能明显优于分析方法，F1 分数比 Gao-Barzel-Barabási 框架提高了 41.59%，比光谱降维提高了 14.32%。它还推广到看不见的拓扑和动力学，并在观测干扰下保持稳健的性能。我们的研究结果表明，ResInf 解决了真实世界系统弹性推理方面的一个重要差距，为将数据驱动的方法整合到复杂的网络建模中提供了新的视角。

 

介绍

不同领域的复杂系统，包括生态学、生物化学和生理学，通常被描述为具有互连节点和加权链接的网络化系统1,2,3,4.达观5、6、7定义为在扰动下保持功能的能力，是这些系统的基本属性。对韧性的基本见解可以追溯到罗伯特·梅 （Robert May） 的开创性工作8，在那里他率先研究了这些网络系统中的稳定性平衡。1973 年，霍林9将弹性的概念概念化为系统可以承受的外部扰动程度，但他对实证测量提供的见解有限。后期学习10进一步分析了网络化系统对扰动的响应，评估了节点和边缘中断背景下的连通性。网络弹性的概念最近被正式定义5，阐明了弹性系统在扰动后应该总是收敛到所需的、非平凡的稳定平衡。先前的研究11,12表示弹性的丧失通常具有广泛的影响。例如，在生态系统中，复原力的下降会导致大规模物种灭绝13.这凸显了韧性丧失的深远后果，并凸显了迫切需要预测和减轻此类结果的方法。

 

通常，给定一个具有 N 个节点的复杂网络系统 G = （V， A），我们用 V 来表示节点集，用 A 来表示加权交互矩阵，其中 \（{A}_{ij}\in {\mathbb{R}}\） 表示节点 i 和 j 之间的交互强度。特定节点 i 的活动表示为 x我，由以下非线性微分方程控制：

 

\frac{d{x}_{i}}{dt}=\， {{\rm{F}}}（{x}_{i}）+{\sum }_{j=1}^{N}{A}_{ij}{{\rm{G}}}（{x}_{i}，{x}_{j}）， (1)

其中 F（x我） 表示节点 i 的自动力学，G（x我、 xj） 描述了节点 i 和 j 之间的交互动力学。方程 （1） 的稳定平衡解模式描述了系统弹性。如果存在指示其功能状态的非零唯一稳定平衡，则系统具有弹性。否则，如果存在稳定的功能失调平衡可以困住系统，或者系统缺乏稳定的平衡，表现出混沌行为，那么它是无弹性的。

 

值得注意的贡献5、14、15、16、17试图通过基于平均场理论、光谱图论等将 N 维系统简化为易于处理的一维系统，为组件之间具有复杂交互的 N 维系统的弹性提供分析估计。尽管取得了突破性的成功，但这些方法通常对网络拓扑和动力学做出强有力的假设，以实现分析可行性18.我们使用经典的 Gao-Barzel-Barabási （GBB）5框架作为示例来探索这些假设的约束。具体来说，GBB 为联网系统计算单个弹性参数 \（{\beta }_{{{\rm{eff}}}}\in {\mathbb{R}}\）。只有当系统的弹性参数超过某个临界阈值时，该系统才被认为是弹性的，即 \（{\beta }_{{{\rm{eff}}}} \， > \， {\beta }_{{{\rm{eff}}}}^{c}\） （图 D）。1d-f）。但是，准确估计 β伊芙而 \（{\beta }_{{{\rm{eff}}}}^{c}\） 依赖于节点活动动力学可以用线性方程来描述，并且互连节点的度数几乎是相互独立的。我们在几个由代表性互惠管理的合成网络系统上评估 GBB19、 基因调控3和神经元动力学20（方法中的动力学和数据集）。在所有三种设置中，我们观察到不准确的推理始终发生在具有正或负分类的网络系统中。以具有共生动力学的系统为例，由于它们的 \（{\beta }_{{{\rm{eff}}}} \， < \， {\beta }_{{{\rm{eff}}}}^{c}\） （图 D）1d）。然而，具有负分类性的网络系统实际上是有弹性的（图 D）。1a，红色），因为它的网络活动始终收敛到一个平衡（图 D）。1g，红色曲线）。这些发现表明，当经典分析模型的基本假设被违反时，它们通常会产生不准确的推论。因此，准确推断网络弹性在实践中仍然是一个尚未解决的挑战，这主要是由于当前分析框架的简化假设与现实世界环境中遇到的复杂性之间存在分歧。

 

图 1：简化分析推理的示例案例。

图 1

我们对共性（参数设置：B = 0.1，C = 1，K = 5，D = 5，E = 0.9，H = 0.1）（a），基因调控（ 参数设置：f = 1，h = 2，B = 1）（b）和神经元（参数设置：μ = 3.5，δ = 2）（c） 动态。具体来说，我们首先从原始高维方程中绘制由 GBB 压缩的一维弹性函数，其中我们展示了 x 的稳定平衡伊芙（补充方程 （11）） 给出 β伊芙（补充方程 （12））。我们分析具有相似β的网络对伊芙在 GBB 框架下，但通过度相关系数 r 测量的分类性不同。网络 （I）、（II）、（V） 和 （VI） 都被经典 GBB 框架推断为非弹性，因为 \（{\beta }_{{{\rm{eff}}}} \， < \， {\beta }_{{{\rm{eff}}}}^{c}\）（d， f）。相反，网络 （III） 和 （IV） 被推断为具有弹性，其中 \（{\beta }_{{{\rm{eff}}}} \， > \， {\beta }_{{{\rm{eff}}}}^{c}\）（e）。我们在每个网络上使用不同的初始条件（方法中的动力学和数据集）使用相应的动力学进一步模拟节点活动 100 次，并采用核密度估计 （KDE） 图来可视化其稳定状态的分布。然而，地面实况模拟显示网络 （II）、（III） 和 （VI） 具有弹性，因为它们具有独特的、非平凡的稳定状态 （〈x〉 > 0），而网络 （I）、（IV） 和 （V） 对于具有 1 个以上的稳定状态或只有 1 个平凡稳定状态 （〈x〉 = 0） （g–i） 是非弹性的。因此，经典解析模型 GBB 对网络 （II）、（IV）、（VI） 的推断不准确，它们都具有负或正分类。

 

全尺寸图像

在这项研究中，我们展示了深度学习方法如何有效地利用日益可用的观测数据，将弹性推理的理念扩展到现实世界的复杂网络系统。我们设计了一个强大的深度学习框架，有效地集成了 Transformer 和图神经网络 （GNN） 架构，促进了跨各种复杂网络系统的 Resilience Inference 表示（简称 ResInf）的学习。具体来说，ResInf 采用堆叠式 Transformer 编码器层21通过对节点活动之间的复杂相关性进行建模来生成节点活动动态控制方程的表示，随后通过 GNN 的消息传递机制将其与拓扑表示合并票价：22,23,24,25,26 元.多个观察的学习表示被聚合并投影到一个专门的一维决策空间，称为 “k-space”。此空间支持对弹性系统进行精确分类，并提供有关系统与指示弹性状态变化的关键阈值的接近程度的见解。

 

我们在实验室环境中的真实微生物系统上使用 ResInf，由于无法获得节点活性动力学的明确控制方程，因此传统的分析方法不可行。我们的数值结果表明，ResInf 实现了令人印象深刻的准确率，平均达到高达 0.829 的 F1 分数。此外，当在由三个代表性方程（即共生、基因调控和神经元动力学）驱动的合成网络系统上进行评估时，ResInf 的表现明显优于其传统同类产品，与 Gao-Barzel-Barabási （GBB） 框架相比，F1 分数最高提高了 41.59% 和 14.32%5和光谱降维 （SDR） 方法14分别。如果我们在涵盖不同弹性损失模式（包括相移和替代稳定状态的出现）的数据上训练 ResInf，它可以有效地捕获这些潜在模式，并利用这些可推广的知识来推断具有以前看不见的动态的系统的弹性。重要的是，ResInf 在各种类型的观测噪声下保持稳健性，包括网络拓扑中的缺失或杂散链接以及节点活动轨迹中的不准确。这些发现表明，精心设计的深度学习模型可以有效地利用观测数据进行复杂系统分析，并表明所提出的 ResInf 框架可以适应各种现实世界的复杂系统，而无需过度简化假设。