基于交替学习的信道自适应稀疏语义视觉通信方法、系统

本发明属于无线通信，尤其涉及一种基于交替学习的信道自适应稀疏语义视觉通信方法、系统。

背景技术：

1、随着智能互联网的出现，经典的面向比特级精度的通信技术已经接近香农极限，无法满足智能互联网时代的严格要求。语义通信在通信传输中专注于语义而非比特错误，这促进了近年来人工智能技术在通信中的应用。在这一方面，一系列联合信源信道编码(joint source-channel coding，jscc)通信系统应运而生，通信质量较传统系统得到提升。然而，在大规模实际的无线通信中，梯度无法通过物理信道完全反向传播。因此，jscc通信系统中可微信道的强假设在实际中可能不成立，这对现有的模型提出了重大挑战。

2、由于图像和视频的广泛应用需求，专门针对图像和视频压缩的信号处理技术也有了显著的发展。压缩感知(compressive sensing，cs)作为一种亚奈奎斯特采样框架，已经被引入到通信中进行有效的压缩。遗憾的是，鲜有工作很少有工作对语义图像和视频中的稀疏性和语义通信进行明确有效的结合。

技术实现思路

1、针对现有技术不足，本发明提供了一种基于交替学习的信道自适应稀疏语义视觉通信方法、系统。

2、第一方面，本发明实施例提供了一种基于交替学习的信道自适应稀疏语义视觉通信方法，所述方法包括：

3、将输入图像输入至预先训练好的编码器中，得到第一语义嵌入表示；

4、对第一语义嵌入表示进行展开，得到第一张量；将第一张量与第一语义基底相乘进行量化，得到二维稀疏表示；

5、将二维稀疏表示通过信道进行传输，得到噪声信号；

6、当信道的信噪比小于阈值时，通过预先训练的去噪模块对噪声信号进行去噪，得到第二张量；当信道的信噪比大于阈值时，将噪声信号作为第二张量；

7、将第二张量与第二语义基底相乘进行去量化，得到第三张量；对第三张量进行降维，得到第二语义嵌入表示；

8、将第二语义嵌入表示输入至预先训练好的解码器中，从而还原输入图像。

9、第二方面，本发明实施例提供了一种基于交替学习的信道自适应稀疏语义视觉通信系统，所述系统包括：

10、发送端，用于将待处理图像输入至预先训练好的编码器中，得到第一语义嵌入表示；对第一语义嵌入表示进行展开，得到第一张量；将第一张量与第一语义基底相乘进行量化，得到二维稀疏表示；将二维稀疏表示通过信道传输至接收端；

11、接收端，用于接收发送端传输的噪声信号；当信道的信噪比小于阈值时，通过预先训练的去噪模块对噪声信号进行去噪，得到第二张量；当信道的信噪比大于阈值时，将噪声信号作为第二张量；将第二张量与第二语义基底相乘进行去量化，得到第三张量；对第三张量进行降维，得到第二语义嵌入表示；将第二语义嵌入表示输入至预先训练好的解码器中，得到还原的图像。

12、第三方面，本发明实施例提供了一种电子设备，包括存储器和处理器，所述存储器与所述处理器耦接；其中，所述存储器用于存储程序数据，所述处理器用于执行所述程序数据以实现上述的基于交替学习的信道自适应稀疏语义视觉通信方法。

13、第四方面，本发明实施例提供了一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现上述的基于交替学习的信道自适应稀疏语义视觉通信方法。

14、第五方面，本发明实施例提供了一种计算机程序产品，包括计算机程序/指令，该计算机程序/指令被处理器执行时实现上述的基于交替学习的信道自适应稀疏语义视觉通信方法。

15、本发明的有益效果为：

16、(1)本发明在发送端将语义嵌入表示转换到语义基底空间，并通过建立非线性映射对结果进行量化，在接收端将语义基底空间转换为语义嵌入进行去量化，以实现高效的信道传输。

17、(2)本发明基于交替学习对编码器、解码器和去噪模块进行训练；固定解码器，训练编码器；固定编码器，训练解码器；固定编码器和解码器，训练去噪模块；本发明通过有效结合压缩感知的概念和深度神经网络的优势，并在训练过程中引入"self-critic"机制，以实现更好的探索和稳定的学习训练过程。

技术特征：

1.一种基于交替学习的信道自适应稀疏语义视觉通信方法，其特征在于，所述方法包括：

2.根据权利要求1所述的一种基于交替学习的信道自适应稀疏语义视觉通信方法，其特征在于，所述编码器包括若干个具有leakyrelu激活函数的卷积层；所述解码器包括若干个具有leakyrelu激活函数的转置卷积层。

3.根据权利要求1所述的一种基于交替学习的信道自适应稀疏语义视觉通信方法，其特征在于，编码器、解码器和去噪模块的训练过程包括：

4.根据权利要求3所述的一种基于交替学习的信道自适应稀疏语义视觉通信方法，其特征在于，固定解码器，基于高斯策略梯度的自我批评技术训练编码器包括：

5.根据权利要求3所述的一种基于交替学习的信道自适应稀疏语义视觉通信方法，其特征在于，固定编码器，基于高斯策略梯度的自我批评技术训练解码器包括：

6.根据权利要求3所述的一种基于交替学习的信道自适应稀疏语义视觉通信方法，其特征在于，固定编码器和解码器，训练去噪模块包括：

7.一种基于交替学习的信道自适应稀疏语义视觉通信系统，其特征在于，所述系统包括：

8.一种电子设备，包括存储器和处理器，其特征在于，所述存储器与所述处理器耦接；其中，所述存储器用于存储程序数据，所述处理器用于执行所述程序数据以实现上述权利要求1-6任一项所述的基于交替学习的信道自适应稀疏语义视觉通信方法。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1-6中任一所述的基于交替学习的信道自适应稀疏语义视觉通信方法。

10.一种计算机程序产品，包括计算机程序/指令，其特征在于，该计算机程序/指令被处理器执行时实现权利要求1-6中任一所述的基于交替学习的信道自适应稀疏语义视觉通信方法。

技术总结本发明公开了一种基于交替学习的信道自适应稀疏语义视觉通信方法、系统，包括：将待处理图像输入至预先训练好的编码器中，得到第一语义嵌入表示；对第一语义嵌入表示进行展开，得到第一张量；将第一张量与第一语义基底相乘进行量化，得到二维稀疏表示；将二维稀疏表示通过信道进行传输，得到噪声信号；当信道的信噪比小于阈值时，通过预先训练的去噪模块对噪声信号进行去噪，得到第二张量；当信道的信噪比大于阈值时，将噪声信号作为第二张量；将第二张量与第二语义基底相乘进行去量化，得到第三张量；对第三张量进行降维，得到第二语义嵌入表示；将第二语义嵌入表示输入至预先训练好的解码器中，得到还原的图像。技术研发人员：李荣鹏,童思予,于小雪,卢锟,赵志峰,张宏纲受保护的技术使用者：浙江大学技术研发日：技术公布日：2024/9/29