一种基于HS-MOE的多模态的电能预测和优化方法与流程

本发明涉及新能源，尤其是一种基于hs-moe的多模态的电能预测和优化方法。

背景技术：

1、在新能源领域，尤其是在光伏、风能、储能电池等用电场景中，精确的预测和调度是提高能源利用效率和稳定性的关键。随着大数据和人工智能技术的快速发展，基于深度学习的预测模型在新能源场景中得到了广泛的应用。然而，传统的单一模型架构在处理高维、多模态和异质性强的数据时，往往面临性能瓶颈和泛化能力不足的问题。

2、为了更好地应对这些挑战，混合专家模型（mixture of experts，moe）提供了一种有效的解决方案。混合专家模型通过将任务分解给多个“专家”子模型，每个子模型专注于特定的数据特征或模式，从而提高了模型的表达能力和预测精度。在此基础上，多层稀疏混合专家模型（hierarchical sparse mixture of experts，hs-moe）进一步引入了分层架构和稀疏激活机制，进一步优化了模型的效率和性能。

3、在新能源领域，光伏、风能等发电系统的数据具有多样性和复杂性，不同数据类型之间的关联性较高，进行多目标预测（如发电量、设备健康状态等）具有重要意义，传统方法难以同时处理多模态数据并进行多目标预测。

技术实现思路

1、为了解决上述问题，本发明提出一种基于hs-moe的多模态的电能预测和优化方法，基于多层稀疏混合专家模型，并且进行多目标预测的模型架构构建，实现对新能源场景中多目标预测的高效建模，以提升预测精度和计算效率。其创新的架构设计和技术亮点，为新能源领域的智能化、精准化管理提供了强有力的技术支持，具有广泛的应用前景和显著的实用价值。

2、本发明解决其技术问题所采用的技术方案是：

3、一种基于hs-moe的多模态的电能预测和优化方法，包括如下实现步骤：

4、步骤s1数据预处理：包括数据清洗和归一化处理输入数据，并进行特征工程，提取关键特征，确保数据对齐，保证每个样本包含所有类型的输入数据。

5、进一步的，所述输入数据是多模态输入数据，包括但不限于电流、电压、温度、压力、阻抗、声光气、光强度、用电负荷、电价等数据，其中电压、温度、压力、阻抗是具备独特性采集的数据。

6、步骤s2模型构建:使用深度学习框架keras构建多层稀疏混合专家模型的各个组件，包括输入层、特征提取层、门控网络层、专家子模型层、融合层和输出层。

7、进一步的，所述门控网络通过softmax函数实现稀疏激活，每个模型均输出一个激活概率，但只激活少量专家子模型，提高计算效率和模型泛化能力。

8、进一步的，所述专家子模型层是针对不同特征设计多个专家子模型，每个子模型专注于特定特征或特征组合的学习，所述专家子模型层优选dnn、cnn、lstm。

9、进一步的，所述融合层将激活的专家子模型的输出进行融合，生成最终的预测结果。采用加权平均的方法，其中权重是来自于门控网络层的输出概率的归一化数值。

10、步骤s3模型训练：使用大规模历史数据对模型进行训练。训练过程中，采用分布式训练方法提高效率，并使用交叉验证和早停技术防止过拟合。

11、进一步的，在模型训练中，将数据集按照8:2的比例分成训练集合和测试集合，在训练集上进行模型训练，通过反向传播算法更新模型参数，训练过程中需要监控验证集上的表现，防止过拟合。

12、进一步的，模型的损失函数选择均方误差、交叉熵、平均绝对误差；选择优化算法sgd和adam来最小化损失函数。

13、进一步的，采用多任务学习模型，将电池数据预测、功率预测、充放电策略和故障管理预测作为不同的任务。设计多任务损失函数，如果是连续数值预测目标，则采用mse损失函数，如果是二分类预测目标，则采用交叉熵损失函数，整体的损失函数可以是多个预测目标的单独损失函数的加权和。

14、步骤s4模型评估和优化：通过评估指标对模型进行评估。根据评估结果，优化模型结构和参数，使用超参数调优方法进一步提升模型性能。

15、步骤s5模型部署和应用：将训练好的模型部署到实际系统中进行在线预测，使用微服务架构、容器化技术和分布式计算框架来实现模型的高效部署和运行。

16、本发明有益效果是

17、（1）分层架构设计：通过多层结构，模型能够捕捉不同尺度的特征，从而提高对复杂数据的表示能力和预测精度；

18、（2）多模态数据处理：模型能够处理和融合来自多种数据源的信息（如气象数据、设备状态数据），提升对新能源发电量和设备健康状态的预测准确性；

19、（3）稀疏激活机制：使用门控网络实现稀疏激活，仅激活相关的专家子模型，降低计算开销，同时防止过拟合，提高模型泛化能力；

20、（4）多目标预测能力：能够同时预测多个关键指标（如发电量、设备健康状态），提供全面的预测结果，满足不同应用需求；

21、（5）动态模型选择：门控网络根据输入数据的特征动态选择最合适的专家子模型，提升模型的适应性和灵活性；

22、（6）融合多种模型的优点：结合dnn、cnn、lstm等多种模型的优点，针对不同特征和特征组合进行最优建模，提升整体预测性能；

23、（7）应用广泛：该模型架构不仅适用于光伏、风能等新能源场景，还可以扩展到其他需要多目标预测的复杂数据场景中。

技术特征：

1.一种基于hs-moe的多模态的电能预测和优化方法，其特征是：包括如下实现步骤

2.根据权利要求1所述的一种基于hs-moe的多模态的电能预测和优化方法，其特征是：所述步骤s1中输入数据是多模态输入数据，包括但不限于电流、电压、温度、压力、阻抗、声光气、光强度、用电负荷、电价等数据，其中电压、温度、压力、阻抗是具备独特性采集的数据。

3.根据权利要求1所述的一种基于hs-moe的多模态的电能预测和优化方法，其特征是：在步骤s2中，所述门控网络通过softmax函数实现稀疏激活，每个模型均输出一个激活概率，但只激活少量专家子模型，提高计算效率和模型泛化能力。

4.根据权利要求1所述的一种基于hs-moe的多模态的电能预测和优化方法，其特征是：在步骤s2中，所述专家子模型层是针对不同特征设计多个专家子模型，每个子模型专注于特定特征或特征组合的学习，所述专家子模型层优选dnn、cnn、lstm。

5.根据权利要求1所述的一种基于hs-moe的多模态的电能预测和优化方法，其特征是：在步骤s2中，所述融合层将激活的专家子模型的输出进行融合，生成最终的预测结果。采用加权平均的方法，其中权重是来自于门控网络层的输出概率的归一化数值。

6.根据权利要求1所述的一种基于hs-moe的多模态的电能预测和优化方法，其特征是：所述步骤s3在模型训练中，将数据集按照8:2的比例分成训练集合和测试集合，在训练集上进行模型训练，通过反向传播算法更新模型参数，训练过程中需要监控验证集上的表现，防止过拟合。

7.根据权利要求1所述的一种基于hs-moe的多模态的电能预测和优化方法，其特征是：所述步骤s3中，模型的损失函数选择均方误差、交叉熵、平均绝对误差；选择优化算法sgd和adam来最小化损失函数。

8.根据权利要求7所述的一种基于hs-moe的多模态的电能预测和优化方法，其特征是：采用多任务学习模型，将电池数据预测、功率预测、充放电策略和故障管理预测作为不同的任务；并且设计多任务损失函数，如果是连续数值预测目标，则采用mse损失函数；如果是二分类预测目标，则采用交叉熵损失函数，整体的损失函数是多个预测目标的单独损失函数的加权和。

技术总结本发明公开一种基于HS‑MOE的多模态的电能预测和优化方法，包括S1数据预处理：包括数据清洗和归一化处理输入数据，并进行特征工程，提取关键特征；S2模型构建:使用深度学习框架Keras构建多层稀疏混合专家模型的各个组件；S3模型训练：使用大规模历史数据对模型进行训练，训练过程中采用分布式训练方法提高效率，并使用交叉验证和早停技术防止过拟合；S4模型评估和优化：通过评估指标对模型进行评估；S5模型部署和应用：将训练好的模型部署到实际系统中进行在线预测。本发明能够实现对新能源场景中多目标预测的高效建模，以提升预测精度和计算效率，为新能源领域的智能化、精准化管理提供强有力的技术支持，具有广泛的应用前景和显著的实用价值。技术研发人员：常伟,徐培旺,胡志超,周志华受保护的技术使用者：广东飞粤科技有限公司技术研发日：技术公布日：2024/9/29