用于利用具有分布式数据生成模型的连续联合学习的深度学习技术的系统和方法与流程

背景技术：

1、本文公开的主题涉及深度学习技术，并且更具体地，涉及用于利用具有分布式数据生成模型的连续联合学习的深度学习技术的系统和方法。

2、已经证明深度学习模型成功地解决了涉及出现在计算机视觉、语音处理、图像处理和其他问题中的足够大的、平衡的和标记的数据集的问题。理想地，希望这些模型不断地学习并适应新的数据，但是这对于神经网络模型仍然是一个挑战，因为这些模型中的大多数模型是用静态的大批量数据进行训练的。用增量数据进行重新训练通常导致灾难性遗忘(即，用新信息来训练模型会干扰先前学习的知识)。

3、理想情况下，人工智能(ai)学习系统应该在改进现有知识的同时不断地适应和学习新知识。当前的ai学习方案假设在训练阶段期间所有样本都是可用的，因此需要在整个数据集上对网络参数进行重新训练，以适应数据分布的变化。尽管从头开始的重新训练实际上解决了灾难性遗忘，但是在许多实际场景中，数据隐私问题不允许共享训练数据。在这些情况下，用增量新数据进行重新训练可能导致准确性的显著损失(灾难性遗忘)。

4、此外，在医学成像领域中(无论数据集有多大)，捕获所有可变性的平衡且手动标记的数据集很罕见。在存在在外观/对比、(感兴趣的器官/结构的)形状和视场方面显著不同于训练数据的数据集的情况下，模型性能可能受到不利影响。当前的深度学习方案假设在训练阶段期间所有样本均可用，因此需要在整个数据集上对网络参数进行重新训练，以适应数据分布的变化。然而，此类重新训练成本昂贵，因为它涉及大量的数据采集和人工标注，从而为这些数据生成基准真值。

技术实现思路

1、下文示出了本文所公开的某些实施方案的概述。应当理解，提供这些方面仅仅是为了向读者提供这些特定实施方案的简要概述，并且这些方面并非旨在限制本公开的范围。实际上，本公开可涵盖下文可能未示出的各个方面。

2、在一个实施方案中，提供了一种计算机实现的方法。该方法包括通过多个处理器建立连续联合学习框架，该连续联合学习框架包括在全局部位处的全局模型和在相应局部部位处从全局模型导出的相应局部模型。该方法还包括不在全局部位和相应局部部位之间共享实际数据集而是共享从实际数据集生成的合成数据集的情况下，通过多个处理器重新训练或重新调整全局模型和相应局部模型。

3、在另一个实施方案中，提供了一种基于深度学习的连续联合学习网络系统。该系统包括全局部位，该全局部位包括全局模型。该系统还包括多个局部部位，其中多个局部部位中的每个相应局部部位包括从全局模型导出的相应局部模型。该系统还包括多个处理器，其被配置为不在全局部位和相应局部部位之间共享实际数据集而是共享从实际数据集生成的合成数据集的情况下，重新训练或重新调整全局模型和相应局部模型。

4、在另一个实施方案中，一种非暂态计算机可读介质，该计算机可读介质包括处理器可执行代码，该处理器可执行代码在由一个或多个处理器执行时使一个或多个处理器执行动作。动作包括建立连续联合学习框架，该连续联合学习框架包括在全局部位处的全局模型和在相应局部部位处从全局模型导出的相应局部模型。动作还包括不在全局部位和相应局部部位之间共享实际数据集而是共享从实际数据集生成的合成数据集或模型的情况下，重新训练或重新调整全局模型和相应局部模型。

技术特征：

1.一种计算机实现的方法，包括：

2.根据权利要求1所述的计算机实现的方法，所述方法包括：通过在每个相应局部部位处的一个或多个处理器利用在所述相应局部部位处的所述合成全局数据集和实际局部数据集两者来重新训练或重新调整每个相应局部模型，以局部重新调整权重从而生成新的相应局部模型，其中所述实际局部数据集包括一对未配对的t2加权磁共振图像，所述t2加权磁共振图像包括所述第一群组的所述器官或解剖结构的t2加权磁共振图像和所述第二群组的所述器官或解剖结构的t2加权磁共振图像。

3.根据权利要求2所述的计算机实现的方法，所述方法包括通过每个相应局部部位处的所述一个或多个处理器利用所述相应局部部位处的实际局部测试数据集来验证每个新的相应局部模型，而没有灾难性遗忘。

4.根据权利要求2所述的计算机实现的方法，所述方法包括：通过每个相应局部部位处的所述一个或多个处理器生成相应局部生成模型，所述相应局部生成模型被配置为从所述相应局部部位处的所述实际局部数据集生成相应合成局部数据集，其中所述相应局部生成模型被配置为在所述第一群组的所述器官或解剖结构的磁共振图像与所述第二群组的所述器官或解剖结构的磁共振图像之间执行引导式非线性对比变换。

5.根据权利要求4所述的计算机实现的方法，其中所述相应局部生成模型被配置为将所述第一群组的所述器官或解剖结构的磁共振图像的对比变换为类似于所述第二群组的所述器官或解剖结构的磁共振图像的对比。

6.根据权利要求4所述的计算机实现的方法，其中所述相应局部生成模型被配置为将所述第二群组的所述器官或解剖结构的磁共振图像的对比变换为类似于所述第一群组的所述器官或解剖结构的磁共振图像的对比。

7.根据权利要求4所述的计算机实现的方法，其中所述相应局部生成模型是特定组织非线性回归模型。

8.根据权利要求4所述的计算机实现的方法，其中所述相应局部生成模型被配置为在执行引导式非线性对比变换之前，利用期望最大化集群来识别所述解剖结构或器官的磁共振图像中的不同组织类别。

9.一种基于深度学习的连续联合学习网络系统，包括：

10.一种非暂态计算机可读介质，所述计算机可读介质包括处理器可执行代码，所述处理器可执行代码在由一个或多个处理器执行时使所述一个或多个处理器执行根据权利要求1至8中任一项所述的方法。

技术总结本发明题为“用于利用具有分布式数据生成模型的连续联合学习的深度学习技术的系统和方法”。本发明提供了一种计算机实现的方法。该方法包括通过多个处理器建立连续联合学习框架，该连续联合学习框架包括在全局部位处的全局模型和在相应局部部位处从该全局模型导出的相应局部模型。该方法还包括不在该全局部位和该相应局部部位之间共享实际数据集而是共享从该实际数据集生成的合成数据集的情况下，通过该多个处理器重新训练或重新调整该全局模型和该相应局部模型。技术研发人员：索米娅·高斯,德斯蒙德·特克·本·杨,托马斯·郭-法·福,奇特雷什·布尚,D·阿南德,达蒂什·达亚南·尚巴格,R·马达范受保护的技术使用者：通用电气精准医疗有限责任公司技术研发日：技术公布日：2024/7/25