一种基于深度学习的大规模MIMO-OTFS波束成形设计方法

本发明属于无线通信，特别是一种基于深度学习的大规模mimo-otfs波束成形设计方法。

背景技术：

1、未来的第六代(6g)无线通信网络必须面对复杂的场景，如高移动性、高可靠通信。正交时频空间(otfs)调制是面向6g系统提出的一种新的调制方式，与传统的正交频分复用(ofdm)技术相比，otfs调制技术具有诸多优点。由于ofdm在高速移动场景下容易受到多普勒频移的影响，导致子载波间的正交性被破坏，从而产生严重的符号间干扰，而otfs能够在时延-多普勒域提供近似平坦的信道响应，对多普勒频移具有更强的鲁棒性，能够更好地适应高移动性的通信环境，保持稳定的通信性能。

2、多输入多输出(mimo)技术已广泛应用于当前的无线网络中，是一种实现大容量、高数据速率传输的有效手段。将otfs和mimo相结合的mimo-otfs系统，可以满足更复杂的通信场景要求。近年来，为了进一步提高频谱效率，大规模天线阵列开始应用于mimo-otfs系统，其中，波束成形技术作为一种保障通信质量和系统可靠性的关键技术，已越来越得到深入的研究。然而，在毫米波频段，mimo-otfs系统虽然具有提供高带宽、高移动新和高数据速率的潜力，但在信号传播过程中面临着严重的路径损耗和敏感性问题，使得传统的波束成形技术难以直接有效地应用，尤其在大规模mimo-ofts系统中，具有有限射频链路的基站大规模天线阵列面临着模拟波束成形器优化设计的关键技术难题。通常，波束成形设计涉及复杂的非凸优化问题，依靠传统数学方法很难直接获得最优解，这给实际应用带来了巨大障碍。现有的大规模mimo系统波束成形设计方法存在诸多缺陷，一些方法为了降低计算复杂度而对原始目标函数进行简化处理，导致求解精度和准确性大打折扣，还有一些方法依赖于复杂且耗时的连续迭代过程来求解问题，不仅大幅延长了计算时间，还造成了严重的资源浪费和利用率低下。近年来，深度学习开始应用于大规模mimo系统波束成形设计领域，tian lin等学者提出一种基于波束成形神经网络(bfnn)的大规模天线阵列系统波束形成设计方法，改进了系统性能，提高了频谱效率。然而目前针对大规模mimo-ofts系统的波束成形方法尚有待研究，迫切需要提出一种有效的解决方案以提升系统的性能和适应性。

技术实现思路

1、本发明提供一种基于深度学习的大规模mimo-otfs波束成形设计方法，目的在于利用otfs调制对多普勒频移的强鲁棒性，适应高移动性通信环境。

2、本发明采取的技术方案是，包括下列步骤：

3、步骤1，mimo-otfs系统基站将时延多普勒(dd)域信号通过otfs调制后，经射频链路由大规模天线发送出去；

4、步骤2，mimo-otfs用户在接收端基于导频符号和接收信号进行信道估计；

5、步骤3，确定大规模mimo-otfs系统波束形成设计的优化目标函数和约束条件；

6、步骤4，离线阶段，将获得的信道估计值与snr值作为输入送到obnn神经网络中进行训练，通过最小化损失函数进行模型学习，输出波束成形器权重，同时，根据真实信道矩阵计算损失函数，通过深度学习的梯度下降法对权重不断更新，确保损失函数收敛至局部最优；

7、步骤5，在线阶段，应用步骤2中相同的估计方法将信道估计值输入训练好的obnn网络中，利用离线训练的权重适应信道估计误差，输出满足频谱效率最大化的最优波束形成器权重，获得最优波束成形矢量，完成大规模mimo-otfs系统波束形成设计。

8、本发明所述步骤1具体过程是：将大小为m×n的时延多普勒信号x通过符号交织器和矢量化处理，得到dd域信号再经过辛有限傅里叶逆变换isfft和海森堡变换，实现otfs调制，得到时域信号流其表达式为：

9、

10、其中，fn表示n×n维的离散傅里叶变换逆矩阵，(·)h表示共轭转置算符，im表示大小为m×m的单位矩阵，表示kronecker乘积；

11、将时域信号流z经过数字波束成形器进行预编码，其权重用vd表示，并经过一条射频链路和一个模拟波束成形器，模拟波束成形器矢量用va表示，由nt个基站天线发射出去，天线发射信号矩阵可以表示为：

12、

13、由于系统中只有一个射频链路，因此数字波束成形器的权重vd是一个标量；是需要设计的波束成形矢量，对s进行矢量化处理，得到天线发射的信号为：

14、

15、其中，(·)t表示转置算符。

16、本发明所述步骤2具体包括：步骤1所发射的mimo-otfs信号由多径信道进行传输，经过第nt个发送天线和第nr个接收天线的时域多径信道可表示为一个mn×mn的矩阵：

17、

18、其中，hp、θp、kp、lp分别表示基站到用户的第p条路径对应的复增益、到达角、离开角、整数多普勒索引和整数时延索引，p为多径信道的总数，路径索引p＝1对应视距路径，且满足lp＝0；天线索引nt＝1,…,nt；nr＝1,…,nr；置换矩阵π和对角矩阵δ的具体形式分别为：

19、

20、其中，diag[·]表示将矢量变成对角矩阵；

21、接收机去除循环前缀cp后的otfs时域接收信号表达式为：

22、r＝hs+n

23、其中，表示由ntnr个组合而成的mimo-otfs信道矩阵，为单边功率谱密度n0的零均值复高斯噪声矢量，表示大小为nrmn×nrmn的单位矩阵；基于接收信号r和导频符号p，采用正交匹配追踪omp算法进行信道估计，其过程如下：将接收信号r投影到p对应的感知矩阵φ上，计算残差其中为当前估计的信道，从而识别出最相关的信道路径，逐步构建出稀疏信道的支持集具体地，选择使投影值最大的索引i作为支持集的候选：

24、

25、利用当前支持集进行稀疏信道的迭代估计，通过最小二乘法更新信道估计值：

26、

27、其中，和分别表示当前支持集的估计信道和当前支持集的感知矩阵，并在每一步更新残差直到残差达到预设阈值或最大迭代次数，最终通过重构信道矩阵实现对otfs系统中稀疏信道的有效估计。

28、本发明所述步骤3为了适应高频段的mimo-otfs系统，采用频谱效率se作为优化目标，se表示为：

29、

30、其中，为噪声方差，考虑恒模约束|[va]i|2＝1，(i＝1,…,nt)以及最大发射功率约束||vdva||2≤pt，而且，最大化se的最优vd由给出，因此对于模拟波束成形矢量va的优化问题由下式给出：

31、

32、s.t.|[va]i|2＝1,i＝1,…,nt

33、其中，代表信噪比。

34、本发明所述步骤4中obnn包括输入层、一维卷积神经网络1dcnn、门控残差网络grn、注意力机制、lambda层和输出层。

35、本发明所述步骤4中离线训练具体过程如下：

36、首先特征函数x1dcnn(q,l,c)通过1dcnn，其中q是批大小，l是输入序列的长度，c是输入通道数，对x1dcnn(q,l,c)进行初步特征提取，应用两个1d卷积层，每个卷积层之后连接一个批归一化层和relu激活函数，其中relu激活函数定义为：

37、relu(x)＝max(0,x)，

38、定义卷积核w(k,c,f)，其中k是卷积核的大小，f是输出通道数，输出特征函数yq,l,f表示为：

39、

40、其中，yq,l,f是输出特征函数在第q批样本、第l个位置和第f个通道的值，q＝1,…,q，l＝1,…,l，f＝1,…,f；xq,l+k,c是输入特征函数在第q批样本、第l+k个位置和第c个通道的值，wk,c,f是卷积核在k个位置、第c个通道和第f个输出通道的权重，bf是第f个输出通道的偏置，σ(·)是激活函数；将得到的输出特征函数送入门控残差网络grn进一步对特征进行处理，增强特征表示，其中grn是通过门来控制每一个残差模块，门通常是由sigmoid函数组成；该网络结构利用门控机制动态调节信息流，通过集成的密集层和非线性激活函数捕获信道的复杂依赖性，grn具体的表达式为：

41、grnω(a,c)＝layernorm(a+gluω(η1))

42、η1＝w1,ωη2+b1,ω

43、η2＝elu(w2,ωa+w3,ωc+b2,ω)

44、其中elu是指数线性单元激活函数，和是中间层，layernorm是层标准化，ω是表示权重索引，当w2,ωa+w3,ωc+b2,ω20时，elu将生成单位函数，而当w2,ωa+w3,ωc+b2,ω00时，elu将生成恒定的输出，从而导致线性层行为；基于门控线性单元glu的成分门控层可以提供灵活性，抑制给定数据集中不必要的结构成分，将作为glu的输入，则输出形式为：

45、gluω(γin)＝σ(w4,ωγin+b4,ω)w(w5,ωγin+b5,ω)

46、其中σ(·)代表sigmoid激活函数，分别代表权重和偏置，w代表元素间的hadamard乘积，dmodel代表隐藏状态大小；grn内部的规范化操作和正则化技术进一步稳定了网络训练，防止过拟合，最终得到输出特征函数ygrn；将grn的输出特征函数通过全连接层和sotmax激活函数，得到注意力权重，将注意力权重与grn的输出特征函数相乘，其中sotmax函数是一种激活函数，它将输入的一个矢量转换为一个概率分布，输出的各个元素之和为1，并且每个元素的值在(0,1)之间，得到的注意力权重α为：

47、α＝softmax(dense(xattention))

48、其中，dense(xattention)表示将输入xattention经过全连接层得到的一个分数矢量，经过注意力机制处理后，输出矢量为：

49、yattention＝xattention wα

50、全连接层将特征表示转换为波束成形器的权重矢量，通过loss损失函数不断更新权重，损失函数的表达式为：

51、

52、其中，nsamples表示训练的样本总数，表示调整后的样本总数，γn、hn、分别表示第n个样本的信噪比，第n个样本的信道矩阵值，第n个波束成形权重矢量，最后，obnn末端的lambda层将相位值转换为波束成形矢量va，同时lambda层根据信道矩阵、波束成形权重和snr计算频谱效率se，利用信道估计值通过特征提取、grn和注意力机制最终输出优化的va和对应的频谱效率se。

53、本发明的优点是设计了一种优化的波束成形神经网络obnn，包括输入层、1dcnn、门控残差网络、注意力机制、lambda层和输出层，以最大化频谱效率为优化目标，对mimo-otfs系统波束成形矢量进行了优化设计，对用户接收的otfs信号进行处理和分析。在不同的导噪比、路径数和用户天线数情况下，对基于obnn的方法进行了不同信噪比条件下的实验，验证了本发明方法所设计obnn神经网络结构的有效性。与现有的波束成形神经网络(bfnn)方法和基于自注意力神经网络(atnn)的方法进行了比较，在低信噪比的极端通信条件下，obnn方法相较于现有方法，具有明显的性能优势，能够获得更高的通信频谱效率。尤其是，在大规模天线数的条件下，obnn方法表现出显著的性能提升。本发明通过深度学习能够确保损失函数收敛至局部最优，利用预训练权重适应信道估计误差，提高频谱效率，利用otfs调制对多普勒频移的强鲁棒性，适应高移动性通信环境。