一种基于大小模型协同的多目标临床决策方法及系统与流程

本技术涉及智能医疗领域，具体的涉及一种基于大小模型协同的多目标临床决策方法、系统、设备及计算机可读存储介质。

背景技术：

1、在医疗领域，人工智能技术的应用已经成为一个重要趋势。尤其是深度学习和神经网络技术，因其在图像识别、自然语言处理、预测建模等方面的显著优势，被广泛应用于临床诊断、疾病预测、健康监测等多个方面。例如，基于深度学习的算法已成功应用于肿瘤识别、糖尿病监测、心脏病预测等关键领域。然而，尽管ai在医疗领域的应用取得了显著进展，但依然面临着一些关键挑战。其中之一是如何构建既精确又高效的预测模型，特别是在数据规模巨大且复杂性高的情况下。为了解决这一问题，神经网络的结构和参数优化成为了研究的热点。传统的神经网络设计往往依赖于领域专家的经验和试错方法，这不仅耗时耗力，而且难以达到最优性能。另一方面，数据隐私和安全在医疗领域尤为重要。在传统的中心化ai模型训练过程中，需要将来自不同源的敏感数据集中处理，这带来了显著的隐私和安全风险。此外，现有技术可能过于关注单一目标（如预测准确性），而忽视了其他重要因素，导致模型过于庞大，难以在资源受限的环境中有效运行。

技术实现思路

1、针对上述问题，本发明提出一种基于大小模型协同的多目标临床决策方法，包括：

2、获取患者临床数据；

3、将所述临床数据输至临床决策模型中得到决策结果；

4、其中，所述临床决策模型通过联邦学习进行训练，所述联邦学习包含中心服务器、k个客户端，k为大于等于1的自然数，所述k个客户端通过本地数据训练得到k个初始临床决策模型及参数，所述参数上传至所述中心服务器进行参数聚合，再将聚合后的参数下传更新参数得到临床决策模型；其中，所述临床决策模型基于演化算法进行网络结构和网络参数的协同演化，所述协同演化通过计算网络结构和参数中的个体适应度值与个体的多样性得到优化的网络结构和网络参数。

5、进一步，所述协同演化的计算公式表示为：

6、

7、其中，种群内个体的多样性度量，为性能评价函数，为调节协同作用的超参数，表示结构种群的个体，表示参数种群的个体。

8、进一步，所述多样性度量表示为：

9、

10、其中，是种群的大小，是参数个数，和分别是种群中第和个个体的第个参数，为神经网络层级之间的关联性度量。

11、所述演化算法对神经网络的结构进行优化，对神经网络的结构初始化得到结构种群，对所述结构种群中的每个个体进行遗传操作得到子代个体，计算所述每个子代个体的适应度值并选择适应值最高的个体作为网络结构的解；其中，所述遗传操作包括下列的一种或几种：交叉、变异，所述交叉采用混合交叉策略，所述变异的操作包括添加层、删除层或更改层。

12、进一步，所述混合交叉策略包括单点交叉和均匀交叉，所述单点交叉选择一个随机点将两个父代个体的网络结构分成两部分并进行交换，所述均匀交叉随机选择网络层在两个父代个体间交换。

13、所述的演化算法对神经网络的参数进行优化，对网络结构的参数初始化得到参数种群，所述参数种群中每个个体进行遗传操作得到更新的子代个体，计算所述子代个体的适应度值并将适应度值最高的个体作为网络参数的解；所述遗传操作包括交叉、变异；所述交叉是通过算数交叉或轮盘赌式交叉得到子代参数；所述变异通过高斯变异或轮盘赌式变异调整子代参数的分布。

14、进一步，所述参数种群还包括通过自适应编码动态调整参数，编码变换函数表示为，

15、

16、其中，是本次迭代中的父代参数，是根据网络表现动态调整的编码转换参数，是一个预设的频率参数，为自适应重编码转换后的参数。

17、所述协同演化还包括通过性能评价函数对更新的子代个体进行性能和复杂度评价，基于评价结果计算所述更新后的子代个体的适应度值，所述性能评价函数表示为：

18、<mi>f(</mi><msub><mi>s</mi><mi>i</mi></msub><mi>,</mi><msub><mi>p</mi><mi>i</mi></msub><mi>)=</mi><mi>[</mi><mi>α×</mi><mi>acc(</mi><msub><mi>s</mi><mi>i</mi></msub><mi>,</mi><msub><mi>p</mi><mi>i</mi></msub><mi>)</mi><mi>-</mi><mi>β×</mi><mi>comp(</mi><msub><mi>s</mi><mi>i</mi></msub><mi>)</mi><mi>]</mi><mi>×</mi><mi>l(</mi><msub><mi>θ</mi><mi>i</mi></msub><mi>)</mi>

19、其中，和是权衡两个目标的超参数，为神经网络模型的损失函数，表示准确率，表示复杂度，表示结构种群的个体，表示参数种群的个体。

20、所述方法还包括存档更新，通过计算参数之间的角度判断是否进行存档，当所述角度大于预设阈值时，对参数进行存档，将存档的参数上传至中心服务器，所述角度的计算公式表示为：

21、

22、其中，表示个体和的角度， 和。

23、所述方法还包括参数压缩，先对所述临床决策模型的参数进行自适应模型参数压缩得到压缩参数，再将所述压缩参数上传，所述压缩过程为：

24、第一步：获取参数并进行标准化处理；

25、第二步：对处理后的参数进行分割得到n个参数块，n为大于1的自然数；

26、第三步：对所述参数块进行编码得到压缩参数。

27、所述分割通过计算参数之间的相关性，将相关性高的参数划分为一个参数块，相关性的度量公式为：

28、

29、其中，是协方差，和分别是参数和的标准差， 和为参数。

30、所述编码通过可逆编码压缩算法进行编码，所述可逆编码压缩过程表示为：

31、

32、其中，表示压缩后的参数，表示压缩前的参数，是可逆编码压缩函数，为第t次参数聚合的压缩率。

33、所述压缩率通过自适应方式进行调整，表示为：

34、

35、其中，是第t次参数聚合的压缩率，是第t+1次参数聚合的压缩率，是学习率，计算原始参数和压缩后参数之间的误差，是可接受的最大误差阈值，为压缩前的参数，为压缩后的参数。

36、所述方法还包括低质量剔除，通过欧氏距离计算各临床决策模型上传参数的相似度，判断模型的异常度，当相似度低时判定为异常度高，将异常度高的模型参数剔除后进行参数聚合。

37、本发明的目的在于提供一种基于大小模型协同的多目标临床决策系统，其上有存储器、处理器及存储在存储器中的计算机程序/指令，包括：

38、所述处理器执行计算机程序/指令实现任意一项上述基于大小模型协同的多目标临床决策方法。

39、本发明的目的在于提供一种基于大小模型协同的多目标临床决策系统，包括：

40、获取单元：获取患者临床数据；

41、决策单元： 将所述临床数据输至临床决策模型中得到决策结果；

42、其中，所述临床决策模型通过联邦学习进行训练，所述联邦学习包含中心服务器、k个客户端，k为大于等于1的自然数，所述k个客户端通过本地数据训练得到k个初始临床决策模型及参数，所述参数上传至所述中心服务器进行参数聚合，再将聚合后的参数下传更新参数得到临床决策模型；其中，所述临床决策模型基于演化算法进行网络结构和网络参数的协同演化，所述协同演化通过计算网络结构和参数中的个体适应度值与个体的多样性得到优化的网络结构和网络参数。

43、本发明的目的在于提供一种设备，包括：

44、存储器和处理器；所述存储器用于存储程序指令；所述处理器用于调用程序指令，当程序指令被执行任意一项所述的基于大小模型协同的多目标临床决策方法。

45、本发明的目的在于提供一种计算机可读存储介质，所述计算机可读存储介质存储计算机程序，包括：

46、所述计算机程序被处理器执行时任意一项所述的基于大小模型协同的多目标临床决策方法。

47、本发明的优势：

48、1.采用多目标优化的演化算法将演化算法应用于神经网络的结构和参数优化，特别是在多目标优化的背景下，同时考虑网络的预测准确性和复杂度，通过精细化的结构和参数优化，神经网络的预测准确性得到显著提升，特别适用于复杂的临床决策场景。

49、2.采用协同演化机制通过同时演化两个种群（神经网络结构种群和网络参数种群），增强算法的搜索能力和适应性，提供了更高效的优化路径，使得算法在搜索最优结构和参数配置时更加高效，提高优化过程的效率和效果。

50、3.采用联邦学习的融合将联邦学习框架与演化算法相结合，使得各个分布式客户端能够共同训练一个全局模型，同时保护数据隐私。

51、4.通过自适应模型参数压缩技术减少联邦学习中的通信负担，使得模型参数在上传到中央服务器前能够有效地压缩，显著减少了联邦学习中的通信量，特别适合于带宽受限的环境，有效降低神经网络的复杂度，使模型更加轻量化，降低计算和存储成本。

52、5.采用动态适应性机制和自适应重编码方法，根据网络在特定任务上的表现动态调整参数的编码方式，更有效地探索参数空间，使得模型能够根据实时数据表现调整自身结构和参数，提高了模型对新数据的适应能力。