基于DCT-FEDformer的短期住宅负荷预测方法与流程

本发明涉及负荷预测，尤其涉及基于dct-fedformer的短期住宅负荷预测方法。

背景技术：

1、负荷预测是住宅区电力规划和设计的重要依据，其目的是为了保证电力系统的安全、经济和可靠运行，满足用电需求，促进住宅区的可持续发展。随着新能源、智能电网、微网等技术的发展和应用，住宅区负荷预测面临着更多的挑战和机遇，如何提高住宅区负荷预测的精度和效率，成为了当前电力行业关注的热点问题。

2、目前住宅区负荷预测主要分为传统预测方法和基于机器学习的预测方法。传统预测方法有单耗法、趋势分析法、负荷密度法等。基于机器学习的预测方法有卷积神经网络(convolutional neural networks, cnn)、长短期记忆网络(long short term memory，lstm)、广义回归神经网络(general regression neural network，grnn)等。不同的方法适用于不同的时间尺度、空间范围和精度要求。然而，这些方法也存在一些局限性，如忽略了住宅区内部负荷特征和空间分布的差异性，缺乏对影响因素和不确定性因素的深入分析，难以适应住宅区快速变化和多样化发展的需求。因此，有必要探索更先进、更灵活、更智能的住宅区负荷预测方法。

3、随着绿色发展要求的提出，电力系统的重要性日益凸显，精确地预测电力负荷能有效帮助供电企业制定及时、经济的发电计划，优化电力调度规划，符合绿色发展要求。所以针对负荷预测的研究也迅速发展，注意力机制被应用于住宅区负荷预测，通过注意力机制，聚焦重要信息，以低权重忽略掉不重要的信息，并不断调整权重，使得模型在不同的情况下也可以选取重要的信息，有利于提高住宅区负荷预测的精度。如基于transformer机制的短期负荷预测模型及其各种变种，如logsparse transformer，fedformer等。但上述模型也存在着很多的问题，如预测精度低，fedformer有可能会导致吉布斯问题等。

4、fedformer模型是由阿里巴巴达摩院决策智能实验室的研究人员提出的，它结合了transformer模型和周期趋势分解的优势，并创新性的使用了傅里叶变换将数据从时域转换到频域，在频域上对数据进行处理，引入了频域增强的注意力机制以提高预测的准确性和效率。fedformer模型如图1所示主体架构采用编码-解码器架构，主要包含了频率增强模块，混合趋势分解模块和频率增强注意力模块。

5、频率增强块：采用了dft将输入数据经过傅里叶变换转换为频域数据，然后在频域上进行一个随机选择操作，然后随机初始化矩阵r，并与随机选择的频率分量相乘。为了便于后续进行傅里叶逆变换，需要将数据以0补足维度。同时，通过傅里叶逆变换，再将频域数据转换为时域数据。

6、

7、式中：其中为输入数据，为dft，为随机选择操作；

8、混合趋势分解模块：在autoformer中，分解模块使用的是固定的窗口大小，为了克服固定大小在具有复杂周期和趋势分量的现实情况下的不足，设计了一个混合型分解模块，其主要由若干个不同大小的窗口组成，可以提取到多个不同的分量特征，同时还对它们设置了权值，旨在区分不同分量特征对模型的贡献，最终以加权求和的方式获得最终趋势数据。

9、频率增强注意力模块：此模块替换了常规注意力机制模块，由encoder经过多层感知机获得和，由decoder经过多层感知机获得；、、 在快速傅里叶变换下由时域数据转换为频域数据，再对他们随机选择分量；后面的操作就和常规注意力机制一样。

10、

11、式中: q为查询矩阵，k为关注内容，v为值，计算出对于q在v上的注意力权重，为k矩阵的维度，用于归一化注意力机制，为归一化指数函数。

12、其中，fedformer模型中dft的隐式周期性会导致边界不连续，导致大量的高频内容dft，引起吉布斯现象。

技术实现思路

1、为克服现有短期住宅负荷预测方法存在预测精度低的技术缺陷，本发明提供了一种基于dct-fedformer的短期住宅负荷预测方法。

2、本发明提供了基于dct-fedformer的短期住宅负荷预测方法，包括如下步骤：

3、步骤一、建立dct-fedformer模型：引入离散余弦变换dct模块替换原始fedformer模型中的dft，将原始fedformer模型中频率增强注意力模块替换为dct注意力模块，将原始fedformer模型的编码器输出线路上原本步长为1且内核大小为1的卷积替换为内核大小为k且步长为1的因果卷积，编码器的输出数据通过因果卷积处理后转换为v和k输入至dct注意力模块；

4、步骤二、选取一定量真实的电力负荷数据，将所有电力负荷数据按照7:3划分训练集和测试集，训练集用于对dct-fedformer模型进行训练，测试集用于对dct-fedformer模型进行测试；

5、步骤三、归一化处理：采用min-max标准化将训练集和测试集的数据归一化到[0,1]；

6、步骤四、将dct-fedformer模型的迭代训练次数epochs设置为100，批量大小batch_size设置为64，学习率learning_rate设置为0.001；

7、步骤五、然后将训练集输入构建好的dct-fedformer模型进行训练，得到最优dct-fedformer模型，并通过验证集对最优dct-fedformer模型进行验证；保存最优dct-fedformer模型；

8、步骤六、通过最优dct-fedformer模型即可对短期住宅负荷进行预测。

9、离散余弦变换（discrete cosine transform，dct）是一种将一个离散序列或信号转换为一组离散余弦函数的变换方法。通过dct变换，可以将时序数据转换到频域，在频域中实现数据的降维、压缩和特征提取等操作。dct变换也可以被认为是输入信号为实偶函数的dft, dft的隐式周期性会导致边界不连续，导致大量的高频内容dft，引起吉布斯现象。但是dct具有对称扩展性，从根本上避免了吉布斯效应，而且消除了大量高频人为的噪音，使得dct比dft更节能。而且在注意力机制方面也进行了优化，引入了因果卷积机制；本发明中dct-fedformer模型在这里引入了因果卷积，将原本步长为1内核大小为1的卷积替换为内核大小为k步长为1的因果卷积。通过因果卷积可以保证输出只依赖于当前和过去的输入，而不受未来输入的影响。这样可以避免信息泄露的问题，即在预测未来时使用了未来的信息，有助于提高预测效果。本发明步骤三中，对数据进行归一化处理，归一化处理具有提高模型收敛速度，改善模型稳定性，提升模型泛化能力等功能。但实际的负荷预测过程中，模型的输入通常包括多种不同量纲的数据，而数据归一化有助于加速模型收敛、消除特征之间的不平衡、提高预测的稳定性和一致性。

10、本发明提供的技术方案与现有技术相比具有如下有益效果：本发明所述基于dct-fedformer的短期住宅负荷预测方法基于传统的fedformer模型做出改进得到dct-fedformer模型，通过该模型可提高预测的精确性、稳定性和一致性，而且更加节能，采用归一化处理后的数据进行训练和验证该dct-fedformer模型，有助于加速模型收敛、消除特征之间的不平衡。