基于物理数据混合模型知识蒸馏及贝叶斯优化的发动机充气效率虚拟感知方法

本发明涉及机械工程及数据科学，特别是涉及一种基于物理数据混合模型知识蒸馏及贝叶斯优化的发动机充气效率虚拟感知方法。

背景技术：

1、随着自动化和智能化技术的不断发展，高精度的发动机控制成为提高机械效率、降低能耗和排放的关键。传统发动机性能监测和控制主要依赖于物理测量和经验公式，这不仅成本高昂，而且在实时性和准确性上往往无法满足现代高性能发动机的需求。特别是对于充气效率这一关键性能参数，其准确测量和预测对于发动机优化调整具有重要意义。

2、在已有的对充气效率感知的研究中，主要是基于实验数据仿真层面的算法选择和对比。如文献(alfieri v,pedicini c,possieri c.design of a neural virtual sensorfor the air and chargingsystemin a diesel engine[j].ifac-papersonline,2020,53(2):14061-14066.)研究了采用高增益观测器和前馈神经网络来估计发动机的充气效率，利用闭环观测的方法,补偿神经网络在动态过程中不确定性估计的短板。基于实验数据对算法的效果进行了验证。

3、关于发动机其他参数的虚拟感知研究中，也同样缺少在线验证环节。如文献(canbaklacioglu t,e,et al.artificial neural networks modeling ofcombustion parameters for adiesel engine fueled with biodiesel fuel[j].energy,2022,247:123473.)介绍了利用多层感知器(mlp)配合levenberg-marquardt算法训练了内燃机主要燃烧参数的预测模型，验证过程在计算机上进行，结果显示了模型在各个预测参数上都表现出了非常高的精准度，但是缺少了将算法部署到ecu上的尝试。文献(zhai y j,yu d l,qian k j,et al.a soft sensor-basedfault-tolerant control onthe air fuel ratio of spark-ignition engines[j].energies,2017,10(1):131.)提出一种通过节气门角度、进气歧管压力、进气温度和发动机转速等参数预测发动机空燃比的rbf网络模型，并通过仿真验证了模型的空燃比绝对值误差为0.043，有能力为控制提供准确的空燃比数值，但是并未部署到ecu上进行实时预测。可见，在发动机虚拟感知领域，目前的研究多致力于找到合适的模型、提升模型预测精度等，而对模型在实际情况下的部署与应用较少涉及，缺乏较大模型在内燃机平台实际部署的系统研究。因此，研究如何在保持性能的同时减小模型规模、提高效率和可部署性，特别是提出高效轻量化模型，应成为研究重点。

4、实际上，模型轻量化是在人工智能领域广泛研究的主题。文献(gamanayake c,jayasinghel,ng b k k,et al.cluster pruning:an efficient filter pruning methodfor edge ai visionapplications[j].ieee journal of selected topics in signalprocessing,2020,14(4):802-816.)提出了一种贪心过滤器剪枝方法，它提供了一种结构化的方式，通过考虑过滤器的重要性和底层硬件架构，来移除cnn中的过滤器。这种方法在保持硬件架构兼容性的同时，优化了过滤器的剪枝过程，使之更加高效。文献(suzuki k,horiba i,sugie n.a simple neural network pruningalgorithm with application tofilter synthesis[j].neural processing letters,2001,13:43-53.)介绍了一种用于滤波器合成的神经网络剪枝算法。该算法通过迭代剪枝法为前馈神经网络压缩结构，通过移除不重要的连接来减少网络中的权重数量，减少模型的复杂度和提高计算效率。实验证明了其算法在大体保持网络性能的同时，能有效减少网络的大小。文献(mirzadeh s i,farajtabar m,li a,et al.improved knowledge distillation via teacher assistant[c]//proceedings ofthe aaai conference on artificial intelligence.2020,34(04):5191-5198.)提出了通过教师助手辅助知识蒸馏的方法。这种方法有效地缓解了直接从大模型到小模型的知识转移中可能出现的性能损失问题。结果表明，即使在更小的学生模型中也能达到接近大教师模型的性能。文献(kim y,rush a m.sequence-levelknowledge distillation[j].arxiv preprint arxiv:1606.07947,2016.)提出了三种知识蒸馏方法：词级知识蒸馏、序列级知识蒸馏和序列级插值，以解决神经机器翻译领域中模型尺寸过大难以应用的问题。最终结果显示学生模型能有效从一个大的“教师”模型学习知识，减少模型参数的同时保持了相近的翻译质量。然而，大多数现有的知识蒸馏方法未能充分考虑到发动机物理过程的特性，因此难以直接应用于发动机充气效率的精确预测。

5、综上所述，急需一种能降低已有算法的计算量，同时确保模型精度的虚拟感知方法，以实现对发动机充气效率的高精度虚拟感知的在线运行，为发动机高精度控制提供支持。

技术实现思路

1、本发明的目的是针对现有技术中存在的不足，而提供一种基于物理数据混合模型知识蒸馏及贝叶斯优化的发动机充气效率虚拟感知方法。

2、为实现本发明的目的所采用的技术方案是：

3、一种基于物理数据混合模型知识蒸馏及贝叶斯优化的发动机充气效率虚拟感知方法，包括以下步骤：

4、步骤1，将物理模型与数据驱动模型结合，构建混合模型mt。

5、步骤2，采用模型剪枝技术，将混合模型mt低权重的神经元剪掉，得到剪枝后的模型mp。

6、步骤3，采用知识蒸馏技术提升剪枝后的模型mp，得到学生模型ms。其中，使用混合模型mt作为教师模型，混合模型mt的输出作为软标签，结合物理规律和数据结果作为硬标签，形成学生模型的损失函数，得到学生模型ms。

7、步骤4，对学生模型ms的超参数进行贝叶斯优化，以实现在不增大模型规模的前提下，使学生模型ms性能得到进一步提升。

8、步骤5，多次重复步骤3和步骤4后，直至达到指定的迭代轮数或达到收敛，得到优化模型以预测充气效率。

9、在上述技术方案中，所述步骤1中，将物理模型与数据驱动模型结合后，再利用损失函数l训练，以对发动机的充气效率进行学习，得到混合模型mt。

10、在上述技术方案中，所述损失函数为：

11、l＝(1-λ)·ldata+λ·lphysics

12、式中，l为物理损失和数据损失的加权损失，ldata是基于混合模型mt的预测结果与发动机实际运行的充气效率之间的差异得到的数据损失，lphysics是基于混合模型mt的预测结果与物理模型的预测结果之间的差异得到的物理损失，λ用于调整物理损失在损失函数中的权重，当λ较大时，物理损失的权重增加，模型会更倾向于满足物理拟合；当λ较小时，物理损失的权重减小，模型会更侧重于数据拟合。

13、在上述技术方案中，所述步骤2中，获取混合模型mt中所有神经元的权重，设定好剪枝比例后，在每一层剪掉权重低的神经元，得到剪枝后的模型mp。

14、在上述技术方案中，所述步骤3中，具体包括以下步骤：利用学生模型ms的预测结果与混合模型mt的预测结果之差作为软标签损失lsoft，利用剪枝后的模型mp的预测结果与物理模型输出之间的差，以及剪枝后的模型mp的预测结果与数据驱动模型输出之间的差的加权作为硬标签损失lhard，软标签损失lsoft和硬标签损失lhard加权和，作为学生模型ms的损失函数lkd进行训练。

15、在上述技术方案中，所述损失函数lkd＝αlhard+(1-α)lsoft其中，lsoft计算公式为：

16、

17、其中，lsoft是软标签损失，是混合模型mt的预测结果，是学生模型ms的预测结果。

18、在上述技术方案中，所述步骤4中，利用学生模型ms作为贝叶斯优化的起点与搜索空间范围。

19、在上述技术方案中，所述步骤4中，首先定义代价函数，利用物理和数据加权的代价函数，来评估超参数配置的好坏。

20、在上述技术方案中，所述步骤4中，使用高斯过程来拟合代价函数，根据当前观测到的数据点来预测未知配置的性能以及不确定性。

21、在上述技术方案中，所述步骤4中，贝叶斯优化利用这些预测来选择下一组超参数，将模型的验证集表现作为贝叶斯优化算法的目标。

22、与现有技术相比，本发明的有益效果是：

23、1.本发明通过融合物理模型和数据驱动模型的优点，并结合知识蒸馏及贝叶斯优化技术，提高发动机充气效率预测的准确性和实时性，进而为发动机高精度控制提供准确的充气效率数据。

24、2.本发明的方法适用于实时发动机性能监测和控制系统，能够提供准确的充气效率数据，帮助优化发动机的工作状态，减少能耗并提高效率。