一种基于TOD-CGAN的水泥烧成系统优化决策方法

本发明属于水泥烧成系统运行指标优化决策领域，具体涉及一种基于transformer和条件信息的生成对抗网络在水泥生产过程中对水泥熟料游离钙含量和能耗进行实时协同优化决策的方法。

背景技术：

1、根据研究表明，中国目前是全球最大的水泥生产国，占据全球水泥总产量的60％以上。中国的主要水泥生产企业广泛采用了新型干法水泥制造方法，其生产工艺流程通常可分为生料制备、熟料煅烧和水泥制备三个环节。其中，熟料煅烧是水泥生产的核心工艺，需要消耗大量的煤炭，并确保煅烧熟料中的f-cao含量稳定且合理。

2、水泥熟料煅烧是一个复杂的动态工业过程，它由许多小的单元组成，这些单元具有不同的功能，协同工作最终生成水泥熟料。为了能生产出合格的熟料，工艺操作上需要平衡各个单元间的运行关系，保证熟料质量达标，生产能耗降低。

3、然而，由于该过程涉及大量的煅烧化学反应，并且从进料到熟料形成需要近一个小时的时间，因此该过程容易受到工况、原料波动，设备和燃烧反应等不确定的干扰因素的影响，导致初始的运行指标决策值不再适合当前状态的需求，需要及时修正。过去，这些运行指标的决策通常依赖于经验丰富的工艺专家进行实时调整。然而，这种决策方式面临着人类行为的不确定性和各个工艺师个体差异的挑战，从而限制了对于最佳生产指标优化效果的实现。所以在这个具有时变、时滞、不确定性和强耦合等特点的复杂动态工业环境下，本文引入生成对抗网络模型通过对运行指标进行实时决策以实现水泥熟料生产指标的协同优化。

4、许多基于知识的决策方法，例如模糊认知图，案例推理，建模多目标优化方法等已经应用并实现工业过程运行指标的动态调整，但是这些算法都遇到了泛化性能力弱的问题，即在实际的运行过程中均存在求解复杂性高，自学习能力弱和适应性差等问题，于是有前人提出使用生成对抗网络gan作为运行指标校正的方法无需复杂的迭代推理，具有较强的自学习能力，有效地解决了基于知识的决策方法面临的泛化性能力弱的问题。

5、生成对抗网络(transformer-optimized-decision-making cgan，tod-cgan)是goodfellow在2014年提出的框架，模型中生成器和判别器相互博弈相互学习，生成器输入随机噪声生成图像，判别器通过判别图像是真实图像还是生成图像来训练并更新参数，而生成器则通过判别器误差的反向传播来更新权重和偏置，当生成器生成的图像能够“骗”过判别器时，二者博弈达到平衡并结束训练。前人研究的时间序列gan的成果主要依赖于基于循环神经网络(rnn)的架构，但是存在着当时间序列中的时间步长较大时，rnn可能会面临梯度消失或梯度爆炸的问题，导致难以捕捉到长期依赖关系，以及进行交替训练，而且由于rnn的序列依赖性，训练过程可能变得不稳定，容易出现模式坍塌或训练难以收敛的问题。有学者提出使用注意力机制可以帮助模型在生成时间序列时更好地关注重要的时间步长或特征。通过引入注意力机制，模型可以更好地处理长期依赖性，并生成更准确和多样化的时间序列样本。本发明提出基于gan的对抗学习的运行指标决策模型，在水泥烧成系统的工业环境下，针对人工决策的不稳定性和延迟性做出的改善。将条件cgan与注意力机制相结合，用transformer组成生成器和判别器，通过注意力机制提取运行指标决策值的相关信息，结合当前的工况和生产指标作为条件信息，生成当前时刻的运行指标决策值。与此同时增加了优化决策机制，根据以往数据训练出一个准确的预测模型，将能耗和产品质量与预测模型输出的结果相比，并且融入gan的损失函数中，将其引导gan行成更优质的决策值，最后引入评价标准和对比实验证明这套模型与工厂决策专家的决策相比的有效性。

技术实现思路

1、本发明提出基于gan的对抗学习的运行指标决策模型，在水泥烧成系统的工业环境下，针对人工决策的不稳定性和延迟性做出的改善。将条件cgan与注意力机制相结合，用transformer组成生成器和判别器，通过注意力机制提取运行指标决策值的相关信息，结合当前的工况和生产指标作为条件信息，生成当前时刻的运行指标决策值。与此同时增加了优化决策机制，根据以往数据训练出一个准确的预测模型，将能耗和产品质量与预测模型输出的结果相比，并且融入gan的损失函数中，将其引导gan行成更优质的决策值。该模型可以做出在各工况条件和生产指标下的运行指标决策，抗干扰能力和泛化能力很强，且不需要复杂的数学迭代推理过程即可正确决策，在引入优化损失后可以有效的达到优化目标。既解决了gan训练和捕捉特征困难的问题，又解决了水泥烧成系统中运行指标优化决策的问题。

2、为实现上述目的，本发明所述方法包括以下步骤：

3、步骤1：数据预处理及预测模型搭建。基于对水泥生产工艺的分析，选择水泥烧成系统中的12个变量作为辅助变量，并确定水泥熟料含量值和单位煤耗为目标变量。对所选的每个变量的时间序列进行归一化处理，将其作为预测模型的输入数据。使用归一化后的数据对回归预测网络进行预训练，并保存网络的结构和参数。

4、在步骤1中，由于水泥孰料生产是一个典型的流程工业过程，水泥煅烧过程表现出复杂的非线性、强耦合和时滞特性，系统在某个时间点的状态可能会受到之前某个时间点的状态影响。每个输入变量对水泥熟料的f-cao含量也有不同程度的影响，因此有必要进行全面考虑。水泥生产是一个连续变化的物理化学反应过程，不同过程变量对水泥熟料f-cao含量预测具有不同的影响。使用传统神经网络无法很好地捕获这个过程的时间依赖性或动态特性。以上问题在一定程度上影响了对生成f-cao样本的预测程度。于是使用cnn-lstm网络结构作为预测模型，结合卷积和循环神经网络的优点，对这个有时序数据的预测问题效果更佳。通过这种端到端lstm网络结构，可以学习输入变量与目标变量之间高程度的非线性复杂关系，并捕获变量在时间维度中的变化规律，学习输入输出高非线性映射。有助于准确预测水泥生产过程中的f-cao浓度和煤耗。

5、步骤2：tod-cgan网络搭建。构建tod-cgan网络，包括生成器和判别器。采用transformer作为生成器和判别器的基本结构。将步骤1中训练好的预测模型整合到生成器的损失函数中，并设置条件变量接口。

6、tod-cgan模型体系结构包含两个主要组件，一个生成器和一个判别器。它们都是基于transformer编码器体系结构构建的。生成器编码器部分由多个encoder block堆叠构成，每个encoder block内部包含多个注意力模块和前馈神经网络模块。注意力模块采用多头注意力机制，输入会先分解成多个头，每个头独立计算注意力权重，最后连结输出。前馈神经网络模块使用多个线性转换层和非线性激活函数gelu，可以提取和转换输入特征。两个encoder block之间通过串联残差连接，将前一个block提取的特征输入到下一个block进行深层学习。编码器之前添加了位置编码层，每个block之间也加入了dropout层抑制过拟合。判别器采用类似的transformer encoder结构，最后用一个分类头输出真假判断。损失函数不仅关注的是区分真实与假样本的能力还有由步骤1中预测模型输出的目标值与预期值的差距。它们通过对抗训练来优化生成质量。

7、步骤3：工艺流程数据准备。从步骤1的12个变量和水泥熟料fcao含量值中选取6个变量为运行指标，4个变量为工况，3个变量为生产指标，每个变量时间序列进行归一化处理作为tod-cgan模型的输入和条件数据。

8、根据对各个工艺设备的功能，可以得知，煤耗和电耗贯穿了整个烧成系统的生产过程，游离氧化钙含量表征了熟料产品的质量，它们都是烧成系统重要的生产指标，并且其与众多工艺参数关联，受之影响。明确烧成系统各个工艺参数之间的影响关系后，我们将工艺参数分为三类：运行指标、工况、生产指标。运行指标通常代表水泥烧成系统生产过程中的一些重要参考数据，可以反映系统当前的运行状态，如代表系统实时运行中的监测数据，如窑温、电度表读数等，可以了解系统当前状态。工况代表的是系统操作和控制各个环节的方法或设置，可以影响系统生产质量和效率。生产指标主要衡量系统从产能、质量和经济效益等方面的生产绩效，在水泥烧成系统中代表着煤耗，电耗和游离钙含量。

9、步骤4：tod-cgan网络训练。使用生成器前时段的运行指标和当前条件信息作为输入，结合判别器的输出和步骤1中的目标值，计算损失函数并更新网络参数。

10、生成器网络获取前一时段的运行指标作为输入，学习代表当前系统状态的潜在空间表示。再将当前时刻的条件信息输入给生成器，生成器网络基于系统状态表示，产生新的运行指标决策值。决策值作为输入，预测模型计算目标函数值(如煤耗、游离钙含量)。将预测结果与预期目标(降低能耗、保持游离钙含量稳定)做差，作为生成器网络的损失函数。同时,决策值经过判别器后得到的真实性评判结果,也作为生成器网络的另一个损失项。将上述两个损失项合并，通过反向传播更新生成器网络参数，使其能产生更优的运行指标决策。迭代进行上述过程，对抗训练让生成器不断学习产生满足控制目标的决策，实现动态优化控制。

11、步骤5：综合优化决策验证。应用训练好的tod-cgan网络模型代替生产过程中的人类决策，将其输入到步骤1的预测模型中验证模型的综合优化决策效果。

12、由于采用了上述技术方案，本发明具有以下优点：

13、本发明采用的基于生成对抗网络的运行指标决策值的生成办法，采用了transformer和cgan相结合的网络结构，无需复杂的迭代推理即可准确提取和处理运行指标和条件信息中的重要信息，并根据当前信息和运行指标的特征生成新的合适的决策值，解决了传统基于知识的方法出现的泛化性弱的问题。

14、本发明在生成对抗网络的对抗损失函数的基础上，引入了基于cnn-lstm的生产指标预测模型，并结合生产指标期望值与生成的运行指标决策值之间的差距，设计了一种额外反馈优化损失函数。通过该复合损失函数的影响，生成的运行指标决策值具有优化生产指标的效果。

15、本技术方法不需要复杂的推理过程，具有较强的自学习能力，能够有效解决基于知识的决策方法存在的问题。将条件cgan与注意力机制相结合，使用transformer组成生成器和判别器，通过其中的注意力机制提取运行指标决策值的相关信息，结合当前的工况和生产指标作为条件信息，生成当前时刻的运行指标决策值。与此同时增加了反馈优化决策机制，根据以往数据训练出一个准确的cnn-lstm预测模型，将生成器生成的运行指标决策值输入该预测模型，将预测的煤耗和水泥熟料f-cao含量与期望的对应指标进行对比，融入到gan的传统对抗损失函数中，在决策模型迭代训练时引导生成器生成更优质的决策值。由于引入了条件信息，该模型可以做出在各工况和生产指标下的运行指标决策。依托于生成对抗网络，其抗干扰能力和泛化能力很强，且不需要复杂的数学迭代推理过程即可做出正确决策，在引入反馈优化决策机制后可以有效的达到优化目标。该方法既解决了gan训练和捕捉特征困难的问题，又解决了水泥烧成系统中运行指标智能优化决策的问题。