一种基于高阶网络储备池计算系统的时间序列预测方法

本申请涉及机器学习领域，特别是涉及一种基于高阶网络储备池计算系统的时间序列预测方法。

背景技术：

1、储备池计算是一种新兴的机器学习算法，通常用于预测非线性系统的行为，与传统的前馈神经网络不同，储备池计算的关键组成部分包括输入层、储备池层和读出层，其中，输入层中的输入权重通常是通过随机选择生成的，这些权重被设计用于将数据的坐标的每一种组合单独输入到储备池层中，储备池层通常是由随机网络构成的，其结构相对更加随机且不具备特定特征分离的设计，储备池层内结点状态是通过一个选代更新方程计算得出的，通常需要通过非线性激活函数来捕捉数据的非线性特性，读出层负责从储备池层中转换为输出数据。读出层可能包括储备池层状态的平方，用于捕捉数据的非线性特性。

2、储备池计算依赖于一个固定的储层结构，该储层结构一旦构建完成就保持静态，且后续的过程该储层结构不再变化，与此同时，输入权重也要保持静态，这使得储备池计算在训练过程中仅需要对输出层进行优化，极大的提高了计算效率。

3、但是，由随机网络构成的储层结构比较简单，同时只使用线性回归训练读出矩阵，使得储备池计算中缺少非线性结构，不能产生丰富的非线性行为。因此传统储备池计算在预测时间序列的能力上不足，预测精度不高。

技术实现思路

1、本发明的主要目的是，提供一种基于高阶网络的储备池计算系统，提供更丰富的非线性行为，同时提高基于高阶网络储备池计算在预测时间序列时的能力。

2、第一方面，本申请实施例提供了一种基于高阶网络的储备池计算系统，包括：

3、系统由输入层、高阶网络储备池层和输出层组成；

4、其中在所述输入层内基于预设的输入序列的维度和高阶网络储备池层的大小构建输入矩阵win，矩阵中元素的值随机确定并服从均值为0、方差为1的正态分布；

5、在所述高阶网络储备池层内基于预设的高阶网络储备池层的大小构建状态向量，向量中元素的值初始化为0；高阶网络储备池层内结点的连接矩阵w基于一个随机生成的超图的关联矩阵h确定，其中每条超边的权重随机确定并服从均值为0、方差为1的正态分布；

6、其中在所述输出层内基于预设的高阶网络储备池层的大小和预测序列的维度构建输出矩阵wout，矩阵中元素的值初始化为0待训练后确定。

7、第二方面，本申请实施例提供了一种基于高阶网络储备池计算系统的时间序列预测方法，所述方法包括：

8、构建基于高阶网络的储备池计算系统，包括输入层、高阶网络储备池层和输出层；

9、获取以时序序列表示的数据，将所述数据经由输入层中的输入矩阵输入至高阶网络储备池层中，具体而言，使用当前时刻的输入数据u、输入矩阵win和状态向量v更新下一时刻的状态向量，计算公式为：

10、v(n+1)＝f(σh(n)+winu(n)),

11、

12、

13、其中f(·)为激活函数，σ为储备池内相互作用的强度系数，we是超边的权重，h(n)表示超图储备池内结点当t＝n时的内部输入，对于任一条超边e，若该结点存在超边中，则结点收到一个由超边内其他结点共同决定的非线性输入；

14、收集所有状态向量x与对应的输入数据y，线性回归训练输出矩阵wout，计算公式为：

15、

16、其中λ为正则化系数。

17、本获取预测起始时刻的输入数据，更新下一时刻的状态向量v，并使用状态向量v和输出矩阵wout得到预测数据y，计算公式为：

18、y(n+1)＝woutv(n+1),

19、使用预测数据当作下一时刻的输入数据，循环预测步骤得到预测的时间序列。

20、本发明的有益效果是：为储备池计算系统提供更为丰富的非线性行为，基于储备池层内部结点的高阶交互作用提高了储备池计算系统在预测时间序列时的能力，实际预测效果得到改善。

21、附图表说明

22、图1为高阶网络储备池计算系统的结构示意图。

技术特征：

1.一种基于高阶网络储备池计算系统的时间序列预测方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的高阶网络储备池计算系统，其特征在于，系统由输入层、高阶网络储备池层和输出层组成；

3.根据权利要求1所述的训练步骤，其特征在于，获取以时序序列表示的数据，将所述数据经由输入层中的输入矩阵输入至高阶网络储备池层中，具体而言，使用当前时刻的输入数据u、输入矩阵win和状态向量v更新下一时刻的状态向量，计算公式为：

4.根据权利要求1所述的预测步骤，其特征在于，获取预测起始时刻的输入数据，更新下一时刻的状态向量v，并使用状态向量v和输出矩阵wout得到预测数据y，计算公式为：

技术总结一种基于高阶网络的储备池计算系统，包括输入层、高阶网络储备池层和输出层，其中在输入层内基于预设的输入序列的维度和高阶网络储备池层的大小构建输入矩阵W<subgt;in</subgt;，矩阵中元素的值随机确定并服从均值为0、方差为1的正态分布；在高阶网络储备池层内基于预设的高阶网络储备池层的大小构建状态向量，向量中元素的值初始化为0；高阶网络储备池层内结点的连接矩阵W基于一个随机生成的超图的关联矩阵H确定，其中每条超边的权重随机确定并服从均值为0、方差为1的正态分布；在输出层内基于预设的高阶网络储备池层的大小和预测序列的维度构建输出矩阵W<subgt;out</subgt;，矩阵中元素的值初始化为0待训练后确定。技术研发人员：普笛,冷思阳,关春受保护的技术使用者：复旦大学技术研发日：技术公布日：2024/7/29