一种基于组稀疏注意力转换器的功能连接网络分析的方法

本发明涉及医疗保健信息处理，具体来说是一种基于组稀疏注意力转换器的功能连接网络分析的方法，其通过功能连接网络进行被试的脑部疾病诊断。

背景技术：

1、静息态功能磁共振成像是一种非入侵式神经成像技术，也就是无需被试执行任何特定任务即可测量其血氧水平依赖信号的技术，已经广泛地应用于重度抑郁症、孤独症谱系障碍、阿尔兹海默病等脑疾病的诊断中。脑部疾病可能由遗传、环境或者心理因素引起，导致脑区之间的神经回路出现紊乱或通信中断。

2、近年来，科学家们对脑部功能连接网络有了更多的认识，并对此展开了一系列的研究。脑部功能连接网络代表了不同脑区之间的依赖关系，通过对功能连接网络的研究，进一步探索脑区之间的潜在关系，为脑部疾病分析提供有力的支撑。

3、《constructing hierarchical attentive functional brain networks forearly ad diagnosis》(j. zhang, y. guo, l. zhou, l. wang, w. wu, and d. shen,‘constructing hierarchical attentive functional brain networks for early addiagnosis’, medical image analysis., vol. 94, p. 103137, may 2024, doi:10.1016/j.media.2024.103137.)论文中提到传统的对脑部功能连接网络的研究主要分为以下三个步骤：（1）构建脑部功能连接网络，（2）特征选择，（3）分类。首先估计预定义的脑区之间的依赖关系来构建脑部功能连接网络，然后根据先验知识对脑部功能连接网络进行特征选择，最后将选择得到的特征放在分类器中进行分类。但这三个步骤是独立的，整个流程不能通过分类阶段的反馈去调整前期脑部功能连接网络的构建，这样就会导致次优的结果。而且由于脑部的复杂性和高维性，很难手动确定特征的重要程度。此外脑部功能连接网络一旦构建，就保持不变，不能根据学习过程来自动调节，这种静态性质也不能很好的模拟大脑真实活动。

4、此外，深度学习对于脑部功能连接网络的研究引入了统一的框架，来很好地集成特征选择和分类等步骤，如《graph neural networks: a review of methods andapplications》( j. zhou et al., ‘graph neural networks: a review of methodsand applications’, ai open, vol. 1, pp. 57–81, jan. 2020, doi: 10.1016/j.aiopen.2021.01.001.)中提到图神经网络。其存在的缺点是：它在固定的“信息传递”框架中运行，因此在学习过程中图的拓扑结构保持静止，而且图神经网络倾向于捕捉局部的信息，只能聚合来自一阶邻居的数据。

5、《brain network transformer》(x. kan, w. dai, h. cui, z. zhang, y. guo,and c. yang, ‘brain network transformer’, oct. 15, 2022, doi: 10.48550/arxiv.2210.06681.)这篇论文在脑部功能连接网络的分析中引入注意力机制的深度学习模型可以更好的捕获全局信息，使用自注意力机制来获取节点之间全局关系可以有效地建模脑区之间的复杂关系。其存在的缺点是：该方法只关注个体的大脑网络，并不能从种群层面分析共享的模式或拓扑结构。

技术实现思路

1、本发明目的是提供一种基于组稀疏注意力转换器的功能连接网络分析的方法，本方法通过加入组稀疏约束并引入最大平均差异方法，以确保学习到的脑网络与指导网络对齐，并应用组稀疏约束来捕获被试之间的相似关系，最后在全连接层中进行脑疾病的诊断，从而显著提高脑网络的构建和分析性能。

2、为了解决上述问题，本发明采用以下技术方案：

3、一种基于组稀疏注意力转换器的功能连接网络分析的方法，包括以下步骤：（1）对于使用功能磁共振设备采集到的大脑功能磁共振成像数据使用基于rs-fmri数据处理助手（data processing assistant for rest-state fmri, dparsf）的标准化数据处理流程进行预处理。然后使用不进行重采样的6自由度线性变换来将各个t1加权图像共同配准到平均功能图像，并进行从单一原生空间到mni空间的空间归一化，最后，基于标准化的大脑分区模板进行脑区划分，得到平均时间序列。

4、mri是多参数成像，出于分析图像的方便，希望一帧mri图像的灰度主要由一个特定的成像参数决定，这就是所谓的加权图像（weighted imaging,wi），例如图像灰度主要由t1决定时就是t1加权图像、主要由t2决定时就是t2加权图像，主要由质子密度决定时就是质子密度加权图像。

5、（2）提取得到第n个被试的平均时间序列, 其中表示第n个被试第i个脑区的时间序列，t表示时间序列中时间的长度，m表示节点个数。根据皮尔森相关计算得到两脑区之间的依赖关系，也就是初始化脑网络。

6、（3）由于被试之间存在相同的拓扑结构，基于以下公式：

7、            （1）

8、其中，n表示被试个数，是范数，表示第n个被试不包括第i个脑区的时间序列矩阵，表示第n个被试中其他脑区对第i脑区的影响，表示n个被试除第i个脑区外其他脑区对i脑区的影响。根据公式（1）得到被试间拓扑结构一致的指导网络。

9、（4）初始化脑网络作为多头自注意层的输入，通过线性投影矩阵,,和分别得到查询, 键, 和值：

10、               （2）

11、沿着d维计算和的点积得到注意力权重矩阵，通过对结果进行放缩，得到放缩结果；放缩结果应用softmax函数后与值进行内积，得到最终的注意力输出，如公式（3）：

12、       （3）

13、得到的矩阵定义为原始脑网络。

14、使用范数正则化项，用于原始脑网络上的编码，为确保对被试层面进行组稀疏约束，把原始脑网络重塑成大小为的矩阵，其中每一列对应一个被试：

15、                         （4）

16、（6）采用最大平均差异方法，把学习到的原始脑网络与指导网络进行对齐操作，鼓励在训练期间脑网络捕获跨被试之间的相似关系，具体的损失函数定义为：

17、                      （5）

18、通过最大平均差异方法，减少了被试脑网络之间的差异，确保学习到的脑网络不会偏离原始脑网络，解决深度神经网络中退化问题，保持性能的稳定性，从而得到多头注意力层的输出。

19、（7）根据多头注意力层，构建基于组稀疏注意力的转换器的模型，该模型包含n个编码层，每个编码层包含两个子层：多头注意力层和前馈网络层，每个子层使用残差连接来保持原始功能。编码层输出的特征通过读出函数进行节点级嵌入到图级嵌入，最后将图级嵌入输入到全连接层中进行脑疾病的分类。分类时使用交叉熵损失进行更新，对分类进行优化。从而得到最优模型，其目标函数如下：

20、                   （6）

21、其中超参数和用来平衡两个损失的权重。通过反向传播更新模型，设置训练更新次数epoch，并以最优更新次数的指标，输出最终的分类结果。

22、作为本发明的进一步改进：

23、所述的步骤（2）中，根据皮尔森相关计算得到两脑区之间的依赖关系，也就是初始化脑网络，通过选择稀疏表示的数学模型来描述大脑区域之间的有效连接性，通过最小化非重要连接，估计出两个脑区之间的依赖关系，更适于在高维、噪声数据中提取关键信息，生成更简洁的脑网络。

24、所述的多头注意力层中包含h个注意力头，输入分别映射出h个结果，分别输入到对应的注意力头中，经过计算后把h个结果进行拼接或加和生成最终的输出结果。使用多头注意力层可以获取多个视角的学习，使得学习到的脑网络更具有解释性。