人工智能模型算法的解释方法、装置和计算机设备与流程

1.本技术涉及人工智能技术领域，特别是涉及一种人工智能模型算法的解释方法、装置、计算机设备、存储介质和计算机程序产品。


背景技术：

2.随着人工智能技术的发展，人工智能模型算法日趋复杂，人工智能可解释性成为了帮助人类理解人工智能工作原理的有效手段，可解释性是人工智能系统决策机制能够被人类理解的程度，也是人工智能模型算法最难、最关键以及最热点的研究之一。
3.目前，对人工智能模型算法的可解释性的研究主要是从软件模型算法本身的角度出发构建等效模型或者进行局部解释的方法，然而，这种构建等效模型或者进行局部解释的方法，存在人工智能模型算法可解释性差的问题。


技术实现要素：

4.基于此，有必要针对传统人工智能模型算法可解释性差的技术问题，提供一种人工智能模型算法的解释方法、装置、计算机设备、计算机可读存储介质和计算机程序产品，以清楚解释人工智能模型算法的运行逻辑。
5.第一方面，本技术提供了一种人工智能模型算法的解释方法。所述方法包括：
6.获取芯片的待测组电磁信号和对比组电磁信号，其中，待测组电磁信号为芯片运行人工智能模型算法时的电磁信号，对比组电磁信号为芯片不运行人工智能模型算法时的电磁信号；
7.根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的电磁场演变图；
8.根据电磁场演变图，通过麦克斯韦方程组，获得人工智能模型算法运行时对应的电流信号变化图；
9.根据电流信号变化图，结合芯片的物理逻辑，获取人工智能模型算法的运行逻辑图，运行逻辑图用于解释人工智能模型算法的运行逻辑。
10.在其中一个实施例中，根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的电磁场演变图包括：
11.根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的随时间变化的电磁场强度；
12.根据人工智能模型算法运行时对应的随时间变化的电磁场强度，获得人工智能模型算法运行时对应的电磁场演变图。
13.在其中一个实施例中，根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的随时间变化的电磁场强度包括：
14.根据待测组电磁信号，获得待测组随时间变化的电磁场强度；
15.根据对比组电磁信号，获得对比组随时间变化的电磁场强度；
16.将待测组随时间变化的电磁场强度与对比组随时间变化的电磁场强度相减，获得人工智能模型算法运行时对应的随时间变化的电磁场强度。
17.在其中一个实施例中，根据电磁场演变图，通过麦克斯韦方程组，获得人工智能模型算法运行时对应的电流信号变化图包括：
18.根据电磁场演变图，通过麦克斯韦方程组，获得随时间变化的电场强度；
19.根据随时间变化的电场强度，获得随时间变化的电流；
20.根据随时间变化的电流，获得人工智能模型算法运行时对应的电流信号变化图。
21.在其中一个实施例中，根据电流信号变化图，结合芯片的物理逻辑，获取人工智能模型算法的运行逻辑图包括：
22.根据电流信号变化图，获得人工智能模型算法的初始运行逻辑；
23.根据初始运行逻辑，结合芯片的物理逻辑，获得人工智能模型算法的运行逻辑图。
24.在其中一个实施例中，人工智能模型算法的解释方法还包括：
25.分析运行逻辑图，获得人工智能模型算法的运行逻辑；
26.根据人工智能模型算法的运行逻辑，获得人工智能模型算法可解释性结果。
27.第二方面，本技术还提供了一种人工智能模型算法的解释装置。所述装置包括：
28.信号获取模块，用于获取芯片的待测组电磁信号和对比组电磁信号，其中，待测组电磁信号为芯片运行人工智能模型算法时的电磁信号，对比组电磁信号为芯片不运行人工智能模型算法时的电磁信号；
29.电磁场演变图获取模块，用于根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的电磁场演变图；
30.电流信号变化图获取模块，用于根据电磁场演变图，通过麦克斯韦方程组，获得人工智能模型算法运行时对应的电流信号变化图；
31.运行逻辑图获取模块，用于根据电流信号变化图，结合芯片的物理逻辑，获取人工智能模型算法的运行逻辑图，运行逻辑图用于解释人工智能模型算法的运行逻辑。
32.第三方面，本技术还提供了一种计算机设备。所述计算机设备包括存储器和处理器，所述存储器存储有计算机程序，所述处理器执行所述计算机程序时实现以下步骤：
33.获取芯片的待测组电磁信号和对比组电磁信号，其中，待测组电磁信号为芯片运行人工智能模型算法时的电磁信号，对比组电磁信号为芯片不运行人工智能模型算法时的电磁信号，根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的电磁场演变图，根据电磁场演变图，通过麦克斯韦方程组，获得人工智能模型算法运行时对应的电流信号变化图，根据电流信号变化图，结合芯片的物理逻辑，获取人工智能模型算法的运行逻辑图，运行逻辑图用于解释人工智能模型算法的运行逻辑。
34.第四方面，本技术还提供了一种计算机可读存储介质。所述计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现以下步骤：
35.获取芯片的待测组电磁信号和对比组电磁信号，其中，待测组电磁信号为芯片运行人工智能模型算法时的电磁信号，对比组电磁信号为芯片不运行人工智能模型算法时的电磁信号，根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的电磁场演变图，根据电磁场演变图，通过麦克斯韦方程组，获得人工智能模型算法运行时对应的电流信号变化图，根据电流信号变化图，结合芯片的物理逻辑，获取人工智能模型算法
的运行逻辑图，运行逻辑图用于解释人工智能模型算法的运行逻辑。
36.第五方面，本技术还提供了一种计算机程序产品。所述计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现以下步骤：
37.获取芯片的待测组电磁信号和对比组电磁信号，其中，待测组电磁信号为芯片运行人工智能模型算法时的电磁信号，对比组电磁信号为芯片不运行人工智能模型算法时的电磁信号，根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的电磁场演变图，根据电磁场演变图，通过麦克斯韦方程组，获得人工智能模型算法运行时对应的电流信号变化图，根据电流信号变化图，结合芯片的物理逻辑，获取人工智能模型算法的运行逻辑图，运行逻辑图用于解释人工智能模型算法的运行逻辑。
38.上述人工智能模型算法的解释方法、装置、计算机设备、存储介质和计算机程序产品，通过获取芯片的待测组电磁信号和对比组电磁信号，其中，待测组电磁信号为芯片运行人工智能模型算法时的电磁信号，对比组电磁信号为芯片不运行人工智能模型算法时的电磁信号，根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的电磁场演变图，根据电磁场演变图，通过麦克斯韦方程组，获得人工智能模型算法运行时对应的电流信号变化图，根据电流信号变化图，结合芯片的物理逻辑，获取人工智能模型算法的运行逻辑图，运行逻辑图用于解释人工智能模型算法的运行逻辑。上述方案，通过获取芯片的电磁信号，获得人工智能模型算法运行时对应的电磁场演变图，通过麦克斯韦方程组，获得电流信号变化图，结合芯片的物理逻辑，获得人工智能模型算法的运行逻辑图，能够清楚解释人工智能模型算法的运行逻辑。
附图说明
39.图1为一个实施例中人工智能模型算法的解释方法的应用环境图；
40.图2为一个实施例中人工智能模型算法的解释方法的流程示意图；
41.图3为一个实施例中人工智能模型算法的解释步骤的流程示意图；
42.图4为另一个实施例中人工智能模型算法的解释方法的流程示意图；
43.图5为一个实施例中人工智能模型算法的解释装置的结构框图；
44.图6为一个实施例中计算机设备的内部结构图。
具体实施方式
45.为了使本技术的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本技术进行进一步详细说明。应当理解，此处描述的具体实施例仅仅用以解释本技术，并不用于限定本技术。
46.本技术实施例提供的人工智能模型算法的解释方法，可以应用于如图1所示的应用环境中。其中，终端102通过网络与芯片104进行通信。数据存储系统可以存储终端102需要处理的数据。数据存储系统可以集成在终端102上，也可以放在云上或其他网络服务器上。终端102通过获取芯片104的待测组电磁信号和对比组电磁信号，其中，待测组电磁信号为芯片104运行人工智能模型算法时的电磁信号，对比组电磁信号为芯片104不运行人工智能模型算法时的电磁信号，根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的电磁场演变图，根据电磁场演变图，通过麦克斯韦方程组，获得人工智能模
型算法运行时对应的电流信号变化图，根据电流信号变化图，结合芯片104的物理逻辑，获取人工智能模型算法的运行逻辑图，运行逻辑图用于解释人工智能模型算法的运行逻辑。其中，终端102可以但不限于是各种个人计算机、笔记本电脑、智能手机、平板电脑、物联网设备和便携式可穿戴设备，物联网设备可为智能音箱、智能电视、智能空调、智能车载设备等。便携式可穿戴设备可为智能手表、智能手环、头戴设备等。
47.在一个实施例中，如图2所示，提供了一种人工智能模型算法的解释方法，以该方法应用于图1中的终端102为例进行说明，包括以下步骤：
48.s200：获取芯片的待测组电磁信号和对比组电磁信号。
49.其中，人工智能是能够模拟、延伸和扩展人类智能的理论、方法、技术及系统。人工智能模型算法如神经网络模型的发展受启发于脑神经科学的进步，因此，对于人工智能模型算法的可解释性问题，也可以参考脑功能机理的研究方法。脑功能机理的研究一般使用功能性核磁共振(fmri)、脑电图(eeg)、脑磁图(meg)等可以记录脑活动时的血流变化、或者脑电活跃的仪器，在被试执行一项实验任务的同时，将大脑活动的情况记录下来，并且通过图像呈现等开展研究。比如，在研究“人脸识别过程是否受到情绪影响”这一问题时，会设计一个包含识别不同表情人脸任务的实验。研究人员在请被试判断自己所看到的人脸图片是否属于某种情绪时，同时使用脑电图记录他们的大脑活跃情况，最后通过对比被试判断的正确率、时间以及脑电活跃的高低范围，来确定大脑中负责在人脸识别情绪判断的功能区及反应速度。参考人脑研究方法，人工智能模型算法相当于人脑的虚拟逻辑网络，承担人工智能模型算法运转计算的芯片相当于人脑的物理实体，获取芯片的电磁信号相当于记录人脑的活动情况。
50.具体地，获取芯片的待测组电磁信号和对比组电磁信号，其中，待测组电磁信号为芯片运行人工智能模型算法时的电磁信号，对比组电磁信号为芯片不运行人工智能模型算法时的电磁信号，对比组实验条件除了不运行人工智能模型算法以外，其他条件与待测组完全相同。可选地，本方案中的芯片包含但不限于普通芯片或者人工智能芯片，为尽可能精准地获得电磁信号，芯片测试区域可设置电磁屏蔽装置，屏蔽测试区域的电磁场信号干扰。
51.s400：根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的电磁场演变图。
52.其中，人工智能模型算法按照模型训练方式不同分为监督学习、无监督学习、半监督学习和强化学习，举例而言，监督学习模型可以包括线性分类器模型(linear classifier)、支持向量机模型((support vector machine)、朴素贝叶斯模型分类器(naive bayes classifier)、k近邻模型(k-nearest neighbor)、决策树模型(decision tree)、线性回归模型(linear regression)、回归树模型(regression tree)；而无监督学习模型主要包括：数据聚类模型(k-means)、数据降维模型(principal component analysis)。根据麦克斯韦方程电磁场理论，变化的磁场产生电场，变化的电场产生磁场，电荷周围空间存在电场，电荷运动使电场产生运动，所以运动电荷产生磁场，电流是电荷的流动，所以电流会产生磁场，恒定电流周围就会产生恒定不变的磁场，振荡电场产生振荡电场。根据获取的芯片运行人工智能模型算法时产生的电磁信号和芯片不运行人工智能算法时产生的电磁信号，进而得到人工智能模型算法运行时对应的电磁场演变图，用于反应人工智能模型算法运行规律，观察其变化的活跃程度，判断人工智能模型算法所调用的芯片
资源的使用情况。
53.具体地，根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的电磁场演变图。
54.s600：根据电磁场演变图，通过麦克斯韦方程组，获得人工智能模型算法运行时对应的电流信号变化图。
55.其中，当电场和磁场都随时间变化，由变化的电场激发的磁场和由变化的磁场激发的电场的总称为时变电磁场，时变电磁场之间相互激励而具有波动特性，时变电磁场遵守麦克斯韦方程。麦克斯韦方程组包括描述静电的高斯电场定律、描述静磁的高斯磁场定律、描述磁生电的法拉第定律和描述电生磁的安培-麦克斯韦定律，由麦克斯韦方程组可知，变化的磁场可以激发涡旋电场，变化的电场可以激发涡旋磁场，电场和磁场相互联系、相互激发组成一个统一的电磁场，通过磁场变化可以计算得出电场的变化，进而得到电流信号的变化图。
56.具体地，根据人工智能模型算法运行时对应的电磁场演变图，通过麦克斯韦方程组，可以获得人工智能模型算法运行时对应的电流信号变化图。
57.s800：根据电流信号变化图，结合芯片的物理逻辑，获取人工智能模型算法的运行逻辑图。
58.其中，芯片是集成电路的载体，集成电路是由多个逻辑运算单元组成的大规模、高性能的计算模块，芯片的物理逻辑是指芯片中集成电路的各个物理逻辑单元。根据电流信号不同，芯片表现出0或1的运行逻辑，结合芯片的物理逻辑，可以获得人工智能模型算法的运行逻辑图，运行逻辑图用于解释人工智能模型算法的运行逻辑。
59.具体地，根据电流信号变化图，结合芯片的物理逻辑，获取人工智能模型算法的运行逻辑图。
60.上述人工智能模型算法的解释方法中，通过获取芯片的待测组电磁信号和对比组电磁信号，其中，待测组电磁信号为芯片运行人工智能模型算法时的电磁信号，对比组电磁信号为芯片不运行人工智能模型算法时的电磁信号，根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的电磁场演变图，根据电磁场演变图，通过麦克斯韦方程组，获得人工智能模型算法运行时对应的电流信号变化图，根据电流信号变化图，结合芯片的物理逻辑，获取人工智能模型算法的运行逻辑图，能够清楚解释人工智能模型算法的运行逻辑。
61.在一个实施例中，如图3所示，s400根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的电磁场演变图包括：
62.s420：根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的随时间变化的电磁场强度。
63.s440：根据人工智能模型算法运行时对应的随时间变化的电磁场强度，获得人工智能模型算法运行时对应的电磁场演变图。
64.本实施例中，根据获取的待测组芯片电磁信号和对比组芯片电磁信号，将电磁信号转化为电磁场强度随时间的变化函数，根据待测组电磁信号和对比组电磁信号，得到只反映人工智能模型算法运行时对应的随时间变化的电磁场强度。根据人工智能模型算法运行时对应的随时间变化的电磁场强度，获得人工智能模型算法运行时对应的电磁场演变
图，能够反映出人工智能模型算法的运行规律。
65.上述实施例的方案，通过待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的随时间变化的电磁场强度，根据人工智能模型算法运行时对应的随时间变化的电磁场强度，获得人工智能模型算法运行时对应的电磁场演变图，能够为支持解释人工智能模型算法运行逻辑提供前提。
66.在另一个实施例中，根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的随时间变化的电磁场强度包括：根据待测组电磁信号，获得待测组随时间变化的电磁场强度；根据对比组电磁信号，获得对比组随时间变化的电磁场强度；将待测组随时间变化的电磁场强度与对比组随时间变化的电磁场强度相减，获得人工智能模型算法运行时对应的随时间变化的电磁场强度。
67.本实施例中，根据待测组电磁信号，获得待测组随时间变化的电磁场强度；根据对比组电磁信号，获得对比组随时间变化的电磁场强度，具体地，将待测组电磁信号转换为电磁场强度随时间的变化函数，获得待测组随时间变化的电磁场强度，将对比组电磁信号转换为电磁场强度随时间的变化函数，获得对比组随时间变化的电磁场强度，将芯片运行人工智能模型算法时的随时间变化的电磁场强度与芯片不运行人工智能模型算法时的随时间变化的电磁场强度相减，从而消除芯片本身运行时产生的电磁信号影响，获得只反映人工智能模型算法运行时对应的随时间变化的电磁场强度。
68.上述实施例的方案，通过将电磁信号转化为电磁场强度随时间的变化函数，根据待测组电磁信号和对比组电磁信号，得到只反映人工智能模型算法运行时对应的随时间变化的电磁场强度，能够为支持解释人工智能模型算法运行逻辑提供前提。
69.在另一个实施例中，如图4所示，s600根据电磁场演变图，通过麦克斯韦方程组，获得人工智能模型算法运行时对应的电流信号变化图包括：
70.s620：根据电磁场演变图，通过麦克斯韦方程组，获得随时间变化的电场强度。
71.s640：根据随时间变化的电场强度，获得随时间变化的电流。
72.s660：根据随时间变化的电流，获得人工智能模型算法运行时对应的电流信号变化图。
73.本实施例中，根据麦克斯韦电磁场理论，由变化的磁场激发感应电场，感应电场时涡旋场，根据人工智能模型算法运行时对应的电磁场演变图，通过麦克斯韦方程组，获得随时间变化的电场强度，根据随时间变化的电场强度，正电荷朝电场线方向移动，负电荷朝电场相反的方向移动，电荷的定向移动形成电流，根据随时间变化的电场强度，获得随时间变化的电流，进一步地，根据随时间变化的电流，获得电流信号变化图，该电流信号变化图即为人工智能模型算法运行时对应的电流信号变化图。
74.上述实施例的方案，通过麦克斯韦方程组，根据电磁场演变图，获得随时间变化的电场强度，根据随时间变化的电场强度，获得随时间变化的电流，根据随时间变化的电流，获得人工智能模型算法运行时对应的电流信号变化图，能够为支持解释人工智能模型算法运行逻辑提供前提。
75.在另一个实施例中，s800根据电流信号变化图，结合芯片的物理逻辑，获取人工智能模型算法的运行逻辑图包括：根据电流信号变化图，获得人工智能模型算法的初始运行逻辑；根据初始运行逻辑，结合芯片的物理逻辑，获得人工智能模型算法的运行逻辑图。
76.本实施例中，根据人工智能模型算法运行时对应的电流信号变化图，得出人工智能模型算法的初始运行逻辑，例如，电流信号为0，表示芯片中某个pn结不导通，人工智能模型算法在该处未执行，电流信号为1，表示该pn结导通，人工智能模型算法该处被执行。根据人工智能模型算法的初始运行逻辑，结合芯片的物理逻辑，获得人工智能模型算法的运行逻辑图。
77.上述实施例的方案，根据电流信号变化图，获得人工智能模型算法的初始运行逻辑，根据初始运行逻辑，结合芯片的物理逻辑，获得人工智能模型算法的运行逻辑图，能够支持解释人工智能模型算法运行逻辑。
78.在另一个实施例中，人工智能模型算法的解释还包括：分析运行逻辑图，获得人工智能模型算法的运行逻辑，根据人工智能模型算法的运行逻辑，获得人工智能模型算法可解释性结果。
79.本实施例中，根据获得的人工智能模型算法的运行逻辑图，分析人工智能模型算法的输出结果和运行逻辑，评估该算法的学习推理决策过程，形成人工智能模型算法的可解释性结果。
80.上述实施例的方案，通过分析运行逻辑图，获得人工智能模型算法的运行逻辑，根据人工智能模型算法的运行逻辑，获得人工智能模型算法可解释性结果，能够达到支持解释人工智能模型算法的运行逻辑的效果。
81.为详细说明本方案中人工智能模型算法的解释方法及效果，下面以一个最详细实施例进行说明：
82.采用50微米*50微米的正方形电磁探头采集芯片的电磁信号，将探头阵列平行覆盖于正在运行的芯片上，探头阵列距离芯片表面的高度保持不变，电磁探头所对应的芯片区域设置电磁屏蔽装置，分别设置待测组和对比组，其中，待测组测试芯片运行人工智能模型算法时的电磁信号，对比组测试芯片不运行人工智能模型算法时的电磁信号，对比组除了不运行人工智能模型算法外，其他条件与待测组一致。获取芯片的待测组电磁信号和对比组电磁信号，其中，待测组电磁信号为芯片运行人工智能模型算法时的电磁信号，对比组电磁信号为芯片不运行人工智能模型算法时的电磁信号，根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的电磁场演变图，根据电磁场演变图，通过麦克斯韦方程组，获得人工智能模型算法运行时对应的电流信号变化图，根据电流信号变化图，结合芯片的物理逻辑，获取人工智能模型算法的运行逻辑图，运行逻辑图用于解释人工智能模型算法的运行逻辑。根据待测组电磁信号，获得待测组随时间变化的电磁场强度，根据对比组电磁信号，获得对比组随时间变化的电磁场强度，将待测组随时间变化的电磁场强度与对比组随时间变化的电磁场强度相减，获得人工智能模型算法运行时对应的随时间变化的电磁场强度，根据人工智能模型算法运行时对应的随时间变化的电磁场强度，获得人工智能模型算法运行时对应的电磁场演变图。根据电磁场演变图，通过麦克斯韦方程组，获得随时间变化的电场强度，根据随时间变化的电场强度，获得随时间变化的电流，根据随时间变化的电流，获得人工智能模型算法运行时对应的电流信号变化图，根据电流信号变化图，获得人工智能模型算法的初始运行逻辑，根据初始运行逻辑，结合芯片的物理逻辑，获得人工智能模型算法的运行逻辑图。分析运行逻辑图，获得人工智能模型算法的运行逻辑，根据人工智能模型算法的运行逻辑，获得人工智能模型算法可解释性结果。
83.上述实施例的方案，通过获取芯片的待测组电磁信号和对比组电磁信号，其中，待测组电磁信号为芯片运行人工智能模型算法时的电磁信号，对比组电磁信号为芯片不运行人工智能模型算法时的电磁信号，根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的电磁场演变图，根据电磁场演变图，通过麦克斯韦方程组，获得人工智能模型算法运行时对应的电流信号变化图，根据电流信号变化图，结合芯片的物理逻辑，获取人工智能模型算法的运行逻辑图，能够清楚解释人工智能模型算法的运行逻辑。
84.应该理解的是，虽然如上所述的各实施例所涉及的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，这些步骤可以以其它的顺序执行。而且，如上所述的各实施例所涉及的流程图中的至少一部分步骤可以包括多个步骤或者多个阶段，这些步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，这些步骤或者阶段的执行顺序也不必然是依次进行，而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
85.基于同样的发明构思，本技术实施例还提供了一种用于实现上述所涉及的人工智能模型算法的解释方法的人工智能模型算法的解释装置。该装置所提供的解决问题的实现方案与上述方法中所记载的实现方案相似，故下面所提供的一个或多个人工智能模型算法的解释装置实施例中的具体限定可以参见上文中对于人工智能模型算法的解释方法的限定，在此不再赘述。
86.在一个实施例中，如图5所示，提供了一种人工智能模型算法的解释装置500，包括：信号获取模块520、电磁场演变图获取模块540、电流信号变化图获取模块560和运行逻辑图获取模块580，其中：
87.信号获取模块520，用于获取芯片的待测组电磁信号和对比组电磁信号，其中，待测组电磁信号为芯片运行人工智能模型算法时的电磁信号，对比组电磁信号为芯片不运行人工智能模型算法时的电磁信号；
88.电磁场演变图获取模块540，用于根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的电磁场演变图；
89.电流信号变化图获取模块560，用于根据电磁场演变图，通过麦克斯韦方程组，获得人工智能模型算法运行时对应的电流信号变化图；
90.运行逻辑图获取模块580，用于根据电流信号变化图，结合芯片的物理逻辑，获取人工智能模型算法的运行逻辑图，运行逻辑图用于解释人工智能模型算法的运行逻辑。
91.上述人工智能模型算法的解释装置中，通过获取芯片的待测组电磁信号和对比组电磁信号，其中，待测组电磁信号为芯片运行人工智能模型算法时的电磁信号，对比组电磁信号为芯片不运行人工智能模型算法时的电磁信号，根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的电磁场演变图，根据电磁场演变图，通过麦克斯韦方程组，获得人工智能模型算法运行时对应的电流信号变化图，根据电流信号变化图，结合芯片的物理逻辑，获取人工智能模型算法的运行逻辑图，能够清楚解释人工智能模型算法的运行逻辑。
92.在一个实施例中，电磁场演变图获取模块540还用于根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的随时间变化的电磁场强度；根据人工智
能模型算法运行时对应的随时间变化的电磁场强度，获得人工智能模型算法运行时对应的电磁场演变图。
93.在一个实施例中，电磁场演变图获取模块540还用于根据待测组电磁信号，获得待测组随时间变化的电磁场强度；根据对比组电磁信号，获得对比组随时间变化的电磁场强度；将待测组随时间变化的电磁场强度与对比组随时间变化的电磁场强度相减，获得人工智能模型算法运行时对应的随时间变化的电磁场强度。
94.在一个实施例中，电流信号变化图获取模块560还用于根据电磁场演变图，通过麦克斯韦方程组，获得随时间变化的电场强度；根据随时间变化的电场强度，获得随时间变化的电流；根据随时间变化的电流，获得人工智能模型算法运行时对应的电流信号变化图。
95.在一个实施例中，运行逻辑图获取模块580还用于根据电流信号变化图，获得人工智能模型算法的初始运行逻辑；根据初始运行逻辑，结合芯片的物理逻辑，获得人工智能模型算法的运行逻辑图。
96.在一个实施例中，人工智能模型算法的解释装置500还用于分析运行逻辑图，获得人工智能模型算法的运行逻辑；根据人工智能模型算法的运行逻辑，获得人工智能模型算法可解释性结果。
97.上述人工智能模型算法的解释装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于计算机设备中的处理器中，也可以以软件形式存储于计算机设备中的存储器中，以便于处理器调用执行以上各个模块对应的操作。
98.在一个实施例中，提供了一种计算机设备，该计算机设备可以是服务器，其内部结构图可以如图6所示。该计算机设备包括通过系统总线连接的处理器、存储器和网络接口。其中，该计算机设备的处理器用于提供计算和控制能力。
99.该计算机设备的存储器包括非易失性存储介质和内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储人工智能模型算法运行时对应的电磁场演变图、电流信号变化图以及运行逻辑图。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现一种人工智能模型算法的解释方法。
100.本领域技术人员可以理解，图6中示出的结构，仅仅是与本技术方案相关的部分结构的框图，并不构成对本技术方案所应用于其上的计算机设备的限定，具体的计算机设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
101.在一个实施例中，提供了一种计算机设备，包括存储器和处理器，存储器中存储有计算机程序，该处理器执行计算机程序时实现以下步骤：
102.获取芯片的待测组电磁信号和对比组电磁信号，其中，待测组电磁信号为芯片运行人工智能模型算法时的电磁信号，对比组电磁信号为芯片不运行人工智能模型算法时的电磁信号；
103.根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的电磁场演变图；
104.根据电磁场演变图，通过麦克斯韦方程组，获得人工智能模型算法运行时对应的
电流信号变化图；
105.根据电流信号变化图，结合芯片的物理逻辑，获取人工智能模型算法的运行逻辑图，运行逻辑图用于解释人工智能模型算法的运行逻辑。
106.在一个实施例中，处理器执行计算机程序时还实现以下步骤：
107.根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的随时间变化的电磁场强度，根据人工智能模型算法运行时对应的随时间变化的电磁场强度，获得人工智能模型算法运行时对应的电磁场演变图。
108.在一个实施例中，处理器执行计算机程序时还实现以下步骤：
109.根据待测组电磁信号，获得待测组随时间变化的电磁场强度，根据对比组电磁信号，获得对比组随时间变化的电磁场强度，将待测组随时间变化的电磁场强度与对比组随时间变化的电磁场强度相减，获得人工智能模型算法运行时对应的随时间变化的电磁场强度。
110.在一个实施例中，处理器执行计算机程序时还实现以下步骤：
111.根据电磁场演变图，通过麦克斯韦方程组，获得随时间变化的电场强度，根据随时间变化的电场强度，获得随时间变化的电流，根据随时间变化的电流，获得人工智能模型算法运行时对应的电流信号变化图。
112.在一个实施例中，处理器执行计算机程序时还实现以下步骤：
113.根据电流信号变化图，获得人工智能模型算法的初始运行逻辑，根据初始运行逻辑，结合芯片的物理逻辑，获得人工智能模型算法的运行逻辑图。
114.在一个实施例中，处理器执行计算机程序时还实现以下步骤：
115.分析运行逻辑图，获得人工智能模型算法的运行逻辑，根据人工智能模型算法的运行逻辑，获得人工智能模型算法可解释性结果。
116.在一个实施例中，提供了一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现以下步骤：
117.获取芯片的待测组电磁信号和对比组电磁信号，其中，待测组电磁信号为芯片运行人工智能模型算法时的电磁信号，对比组电磁信号为芯片不运行人工智能模型算法时的电磁信号；
118.根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的电磁场演变图；
119.根据电磁场演变图，通过麦克斯韦方程组，获得人工智能模型算法运行时对应的电流信号变化图；
120.根据电流信号变化图，结合芯片的物理逻辑，获取人工智能模型算法的运行逻辑图，运行逻辑图用于解释人工智能模型算法的运行逻辑。
121.在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
122.根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的随时间变化的电磁场强度，根据人工智能模型算法运行时对应的随时间变化的电磁场强度，获得人工智能模型算法运行时对应的电磁场演变图。
123.在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
124.根据待测组电磁信号，获得待测组随时间变化的电磁场强度，根据对比组电磁信
号，获得对比组随时间变化的电磁场强度，将待测组随时间变化的电磁场强度与对比组随时间变化的电磁场强度相减，获得人工智能模型算法运行时对应的随时间变化的电磁场强度。
125.在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
126.根据电磁场演变图，通过麦克斯韦方程组，获得随时间变化的电场强度，根据随时间变化的电场强度，获得随时间变化的电流，根据随时间变化的电流，获得人工智能模型算法运行时对应的电流信号变化图。
127.在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
128.根据电流信号变化图，获得人工智能模型算法的初始运行逻辑，根据初始运行逻辑，结合芯片的物理逻辑，获得人工智能模型算法的运行逻辑图。
129.在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
130.分析运行逻辑图，获得人工智能模型算法的运行逻辑，根据人工智能模型算法的运行逻辑，获得人工智能模型算法可解释性结果。
131.在一个实施例中，提供了一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现以下步骤：
132.获取芯片的待测组电磁信号和对比组电磁信号，其中，待测组电磁信号为芯片运行人工智能模型算法时的电磁信号，对比组电磁信号为芯片不运行人工智能模型算法时的电磁信号；
133.根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的电磁场演变图；
134.根据电磁场演变图，通过麦克斯韦方程组，获得人工智能模型算法运行时对应的电流信号变化图；
135.根据电流信号变化图，结合芯片的物理逻辑，获取人工智能模型算法的运行逻辑图，运行逻辑图用于解释人工智能模型算法的运行逻辑。
136.在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
137.根据待测组电磁信号和对比组电磁信号，获得人工智能模型算法运行时对应的随时间变化的电磁场强度，根据人工智能模型算法运行时对应的随时间变化的电磁场强度，获得人工智能模型算法运行时对应的电磁场演变图。
138.在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
139.根据待测组电磁信号，获得待测组随时间变化的电磁场强度，根据对比组电磁信号，获得对比组随时间变化的电磁场强度，将待测组随时间变化的电磁场强度与对比组随时间变化的电磁场强度相减，获得人工智能模型算法运行时对应的随时间变化的电磁场强度。
140.在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
141.根据电磁场演变图，通过麦克斯韦方程组，获得随时间变化的电场强度，根据随时间变化的电场强度，获得随时间变化的电流，根据随时间变化的电流，获得人工智能模型算法运行时对应的电流信号变化图。
142.在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
143.根据电流信号变化图，获得人工智能模型算法的初始运行逻辑，根据初始运行逻
辑，结合芯片的物理逻辑，获得人工智能模型算法的运行逻辑图。
144.在一个实施例中，计算机程序被处理器执行时还实现以下步骤：
145.分析运行逻辑图，获得人工智能模型算法的运行逻辑，根据人工智能模型算法的运行逻辑，获得人工智能模型算法可解释性结果。
146.需要说明的是，本技术所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等)，均为经用户授权或者经过各方充分授权的信息和数据。
147.本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一非易失性计算机可读取存储介质中，该计算机程序在执行时，可包括如上述各方法的实施例的流程。其中，本技术所提供的各实施例中所使用的对存储器、数据库或其它介质的任何引用，均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(read-only memory，rom)、磁带、软盘、闪存、光存储器、高密度嵌入式非易失性存储器、阻变存储器(reram)、磁变存储器(magnetoresistive random access memory，mram)、铁电存储器(ferroelectric random access memory，fram)、相变存储器(phase change memory，pcm)、石墨烯存储器等。易失性存储器可包括随机存取存储器(random access memory，ram)或外部高速缓冲存储器等。作为说明而非局限，ram可以是多种形式，比如静态随机存取存储器(static random access memory，sram)或动态随机存取存储器(dynamic random access memory，dram)等。本技术所提供的各实施例中所涉及的数据库可包括关系型数据库和非关系型数据库中至少一种。非关系型数据库可包括基于区块链的分布式数据库等，不限于此。本技术所提供的各实施例中所涉及的处理器可为通用处理器、中央处理器、图形处理器、数字信号处理器、可编程逻辑器、基于量子计算的数据处理逻辑器等，不限于此。
148.以上实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
149.以上所述实施例仅表达了本技术的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对本技术专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本技术构思的前提下，还可以做出若干变形和改进，这些都属于本技术的保护范围。因此，本技术的保护范围应以所附权利要求为准。