基于ATT-CNN-BiGRU的负荷处理方法与流程

基于att-cnn-bigru的负荷处理方法
技术领域
1.本发明涉及电力系统负荷分析技术领域，具体为基于att-cnn-bigru的负荷处理方法。


背景技术：

2.短期负荷预测一直是电力系统给用户提供合格可靠电能的重要保障。南宁电网短期负荷预测主要预测未来一周左右的电力负荷。预测精度严重影响着电力系统的规划、计划、营销、市场交易、调度等部门的工作人员的工作。短期电力负荷预测工作的关键取决于其负荷预测模型的建立，然而由于短期电力负荷的不确定性及其随机性，使其对负荷预测模型的要求越来越高。而影响短期负荷预测精度的因素也随着用户的用电需求趋于多样性而变得更加复杂。
3.近年来，随着人工智能算法的发展，短期负荷预测模型建立的关注点主要在预测模型的建立上，如人工神经网络、长短时记忆、极限学习机、支持向量机等，而对于前期的数据预处理部分关注较少，但往往前期的数据预处理对后期的预测结果影响颇大。


技术实现要素：

4.本发明的目的在于克服现有技术的不足，提供基于att-cnn-bigru的负荷处理方法，本发明通过在数据预处理阶段改进负荷数据特征提取方法以提高短期负荷预测模型的预测精度。
5.本发明的目的是通过以下技术方案来实现的：
6.基于att-cnn-bigru的负荷处理方法，包括以下步骤：
7.s1，将电网历史负荷数据输入cnn模型的卷积层，通过卷积层提取非线性电网历史负荷数据的特征；
8.s2，将非线性电网历史负荷数据特征输入cnn模型的池化层，通过池化层对电网历史负荷数据特征进行筛选；
9.s3，将筛选后的非线性电网历史负荷数据特征输入到cnn模型的全连接fc层中，将非线性电网历史负荷数据特征转化为线性电网历史负荷数据特征，利用所述线性电网历史负荷数据特征建立预测模型。
10.进一步的，所述步骤s3后还包括步骤s4以及步骤s5，所述步骤s4为将线性电网历史负荷数据特征进行归一化处理，将归一化处理后的数据按照一定比例划分为测试集数据以及训练集数据，所述步骤s3为建立预测模型。
11.进一步的，所述步骤s5预测模型的建立方法为：
12.s51，分别计算测试集数据以及训练集数据中特征的权重αi，权重αi的计算公式为：
[0013][0014]
式中，αi表示为第i个向量的权重，s(xi,q)为注意力筛选函数，q为设置的向量；
[0015]
s52，根据函数计算测试集数据以及训练集数据的加权平均值；
[0016]
s53，将测试集数据的加权平均值以及训练集数据的加权平均值分别输入到bigru层中得到训练集输出y1以及测试集输出y2，绘制训练集的损失迭代曲线以及测试集的损失迭代曲线，并判断训练集与测试集迭代曲线之间的损失幅值，当损失幅值大于s时，通过训练集数据调整注意力筛选函数、attention函数以及cnn模型中各函数的参数，重复步骤s1-s53，直到损失幅值小于等于s时，将测试集输出y2作为本次电力负荷的预测值。
[0017]
进一步的，所述步骤s53中，bigru层为双向门控循环单元，由两个gru模型构成，一个gru模型向后学习历史数据特征，另一个gru模型向前学习未来数据特征，对过去数据以及未来数据进行融合处理得到输出y1以及y2。
[0018]
进一步的，所述步骤s1前，收集过去d天的电网历史负荷数据，并将其存储为时间序列数据，时间序列数据长度为：d*96个，时间单位为分钟，采样周期为t分钟。
[0019]
进一步的，所述cnn模型包括卷积层、池化层、全连接fc层，所述卷积层与池化层连接，所述池化层与全连接fc层连接。
[0020]
进一步的，所述池化层筛选电网历史负荷数据特征的公式为：z＝max x ij，(i，j)∈g，式中，g为池化层的感受邻域，x
ij
为感受邻域内的电网历史负荷数据特征。
[0021]
进一步的，所述cnn模块卷积层定义为：
[0022]
式中，w为卷积神经网络的卷积核，x为输入，x的维度和矩阵w的维度一致。
[0023]
进一步的，所述cnn模块全连接fc层采用线性整流函数将非线性电网历史负荷数据特征转化为线性电网历史负荷数据特征。
[0024]
一种计算机存储设备，包括一个或多个存储器，其上存储有可执行程序，一个或多个处理器，用于执行所述存储器中的所述可执行程序，以实现所述基于att-cnn-bigru的负荷处理方法的步骤。
[0025]
本发明的有益效果是：
[0026]
1、本发明专利中通过在数据预处理阶段改进负荷数据特征提取方法以提高短期负荷预测模型的预测精度。
[0027]
2、本发明专利通过在预测模型中添加双向gru算法和注意力机制来提取负荷特征，采用卷机神经网络算法实现对短期负荷的准确预报。
附图说明
[0028]
图1为本发明专利的流程图；
[0029]
图2为本发明专利的attention层结构图；
[0030]
图3为本发明专利的bigru层结构图；
[0031]
图4为本发明专利的预测模型链接层结构图；
[0032]
图5为本发明专利的训练集的损失迭代曲线以及测试集的损失迭代曲线图；
[0033]
图6为本发明专利的短期负荷预测曲线图；
[0034]
图7为本发明专利预测模型中各个模块的系统连接图；
[0035]
附图说明：1-输入层，2-卷积层，3-池化层，4-全连接fc层，5-attention层，6-bigru层，7-输出层；
具体实施方式
[0036]
下面结合本发明的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明的一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施。
[0037]
在本发明的描述中，需要理解的是，术语“逆时针”、“顺时针”“纵向”、“横向”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。
[0038]
基于att-cnn-bigru的负荷预测方法，包括以下步骤：
[0039]
s1，将电网历史负荷数据输入cnn模型的卷积层2，通过卷积层2提取非线性电网历史负荷数据的特征，具体的，电网历史符合数据通过预测模型的输入层1输入到cnn模型的卷积层2；
[0040]
s2，将非线性电网历史负荷数据特征进入cnn模型的池化层3，通过池化层3对电网历史负荷数据特征进行筛选；
[0041]
s3，将筛选后的非线性电网历史负荷数据特征进入到cnn模型的全连接fc层4中，将非线性电网历史负荷数据特征转化为线性电网历史负荷数据特征，通过线性电网历史负荷数据特征建立预测模型；
[0042]
具体的，cnn模型由卷积层2、池化层3和全连接fc层4组成，其中卷积层2是cnn区别于其他神经网络算法的模块，卷积层2的作用是将通过该层的数据做一次特征提取，能够从数据中挖掘出深层次的特征。
[0043]
进一步的，所述步骤s3后还包括步骤s4以及步骤s5，所述步骤s4为将线性电网历史负荷数据特征进行归一化处理，将归一化处理后的数据按照一定比例划分为测试集数据以及训练集数据，所述步骤s5为建立预测模型；
[0044]
具体的，对数据进行归一化处理可以消除数据量纲差异对预测模型的影响，数据归一化公式为：
[0045]
式中，x
max
为数据最大值，x
min
为数据最小值，x为经过归一化处理后的数据集矩阵，x为输入的特征数据集样本矩阵；
[0046]
将数据按照7：3的比例划分为训练集数据以及预测集数据，通过训练集数据用于预测模型调整自身的参数，提高模型自身的精度和稳定性，训练集数据的输出为预测模型稳定后的预测值。
[0047]
进一步的，所述步骤s3预测模型的建立方法为：
[0048]
s51，分别计算测试集数据以及训练集数据中特征的权重αi，权重αi的计算公式为：
[0049][0050]
式中，αi表示为第i个向量的权重，s(xi,q)为注意力筛选函数，q为设置的向量，xi为特征数据矩阵；具体的，通过设置一个向量q，引入一个函数，通过计算输入向量和q的相关性，来进行注意力值的分配，即相关性越大注意力就越大，反之则越小；
[0051]
s52，根据函数计算测试集数据以及训练集数据的加权平均值；
[0052]
s53，将测试集数据的加权平均值以及训练集数据的加权平均值分别输入到bigru模型中得到训练集输出y1以及测试集输出y2，绘制训练集的损失迭代曲线以及测试集的损失迭代曲线，并判断训练集与测试集迭代曲线之间的损失幅值，当损失幅值大于s时，通过训练集数据调整注意力筛选函数、attention函数以及cnn模型中各函数的参数，重复步骤s1-s53，直到损失幅值小于等于s时，将测试集输出y2作为本次电力负荷的预测值；
[0053]
具体的，cnn模型中的函数包括卷积层卷积函数、池化层筛选函数、全连接fc层relu函数；
[0054]
具体的，如附图2所示，attention层5的作用是给cnn输出的特征分配权值，给关键特征分配更高的权值，而给非关键的特征赋予更小的权值，从而提高模型的预测精度，附图2中，a1到an即为各个特征向量的权重，通过加法器输出加权平均值；
[0055]
进一步的，所述步骤s53中，bigru层6为双向门控循环单元，由两个gru模型构成，一个gru模型向后学习历史数据特征，另一个gru模型向前学习未来数据特征，对过去数据以及未来数据进行融合处理得到输出y1以及y2；
[0056]
进一步的，所述步骤s1前，收集过去d天的电网历史负荷数据，并将其存储为时间序列数据，时间序列数据长度为：d*96个，时间单位为分钟，采样周期为t分钟；
[0057]
具体的，如附图3所示，bigru层6由两个gru模型构成，一个向后学习历史数据特征，另一个向前学习未来数据特征，即在模型训练过程中可以同时利用历史和未来数据信息，并对其进行融合处理输出预测值，电网历史负荷数据以时间序列数据形式存储，将其中一个采样周期t内的数据定义为现在时刻数据，那么上一个周期t内的数据即为历史数据，下一个周期t内的数据即为未来数据；
[0058]
具体的，如附图5所示，将训练集的损失迭代曲线以及测试集的损失迭代曲线绘制于同一张表格中，当两条曲线趋于重合时，表示模型趋于稳定，此时的预测模型输出测试集数据的预测值更为精准，重合的定义为两条曲线之间损失幅值s越小，即越趋于重合；
[0059]
进一步的，所述cnn模型包括卷积层2、池化层3、全连接fc层4，所述卷积层2与池化层3连接，所述池化层3与全连接fc层4连接。
[0060]
进一步的，所述池化层3筛选电网历史负荷数据特征的公式为：z＝max x ij，(i，j)∈g，式中，g为池化层3的感受邻域，x
ij
为感受邻域内的电网历史负荷数据特征；
[0061]
具体的，池化层3是结构相对简单的模块，其作用是对卷积层2提取的数据特征进行选择，一定程度上降低数据运算量，并且有效避免过拟合现象，经过池化层3处理后可以有效提高模型的容错性；
[0062]
进一步的，所述cnn模块卷积层2定义为：
[0063]
式中，w为卷积神经网络的卷积核，x为输入，x的维度和矩阵w的维度一致；
[0064]
进一步的，所述cnn模块全连接fc层4采用线性整流函数将非线性电网历史负荷数据特征转化为线性电网历史负荷数据特征；
[0065]
具体的，为了使模型的迭代速度更快，一般采用relu函数作为卷积神经网络的激励函数，re l u(x)＝max(0,x)；全连接fc层4的作用类似于多分类器，该模块包含cnn模型中大部分计算过程，该模块主要对数据进行线性和非线性的处理，线性运算主要针对输入数据，非线性运算主要针对各层级之间数据的映射，同时该层还起着存储器的作用，卷积层2提取的数据特征，池化后3的数据以及需要模型输出的数据都存储于此；
[0066]
一种计算机存储设备，包括一个或多个存储器，其上存储有可执行程序，一个或多个处理器，用于执行所述存储器中的所述可执行程序，以实现所述基于att-cnn-bigru的负荷处理方法的步骤。
[0067]
具体的，预测模型稳定后，将处理好的数据长度为：8*96，时间单位为分钟(m)，采样周期t为15分钟，输入到预测模型中，输出层7输出的负荷预测曲线如附图6所示。
[0068]
可以理解的是，上述各实施例中相同或相似部分可以相互参考，在一些实施例中未详细说明的内容可以参见其他实施例中相同或相似的内容。
[0069]
需要说明的是，在本技术的描述中，术语“第一”、“第二”等仅用于描述目的，而不能理解为指示或暗示相对重要性。此外，在本技术的描述中，除非另有说明，“多个”、“多”的含义是指至少两个。
[0070]
应该理解，当元件被称为“固定于”或“设置于”另一个元件，它可以直接在另一个元件上或者可能同时存在居中元件；当一个元件被称为“连接”另一个元件，它可以是直接连接到另一个元件或者可能同时存在居中元件，此外，这里使用的“连接”可以包括无线连接；使用的措辞“和/或”包括一个或更多个相关联的列出项的任一单元和全部组合。
[0071]
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为：表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本技术的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本技术的实施例所属技术领域的技术人员所理解。
[0072]
应当理解，本技术的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如，如果用硬件来实现，和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(pga)，现场可编程门阵列(fpga)等。
[0073]
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。
[0074]
此外，在本技术各个实施例中的各功能单元可以集成在一个处理模块中，也可以
是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。
[0075]
上述提到的存储介质可以是只读存储器，磁盘或光盘等。
[0076]
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本技术的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
[0077]
尽管上面已经示出和描述了本技术的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本技术的限制，本领域的普通技术人员在本技术的范围内可以对上述实施例进行变化、修改、替换和变型。