一种信源信道联合编码系统轻量化方法、装置和设备
- 国知局
- 2024-07-31 23:09:15
本发明涉及新一代通信,具体是涉及一种信源信道联合编码系统轻量化方法、装置和设备。
背景技术:
1、基于深度学习的信源信道联合编码系统,其作为一种新型语义通信技术,可以用该系统进行图像传输。该系统包括发送端和接收端,图像由发送端通过无线通道传输至接收端。发送端和接收端上都部署有深度学习模型,但是由于深度学习模型过大,导致深度学习模型占用了系统的太多空间,从而降低了系统的算力。现有技术直接对深度学习模型进行裁剪,以实现系统的轻量化,由于没有考虑系统的噪声这一因素,导致降低了轻量化系统的通信质量。
2、综上所述,现有技术降低了系统通信质量。
3、因此,现有技术还有待改进和提高。
技术实现思路
1、为解决上述技术问题,本发明提供了一种信源信道联合编码系统轻量化方法、装置和设备,解决了现有技术降低了系统通信质量的问题。
2、为实现上述目的,本发明采用了以下技术方案:
3、第一方面,本发明提供一种信源信道联合编码系统轻量化方法,所述信源信道联合编码系统内部设置有深度学习模型,其中,包括:
4、采集系统的噪声信息,并基于所述噪声信息,确定所述系统的裁剪总数量;
5、计算所述深度学习模型的每个卷积层通道所对应的重要性,所述重要性用于表征所述卷积层通道与所述深度学习模型的模型权重之间的相关度;
6、依据所述重要性,从所有所述卷积层通道中筛选出所述裁剪总数量的目标通道,并从所述深度学习模型上裁剪掉所述目标通道,以轻量化所述系统。
7、在一种实现方式中,所述基于所述噪声信息,确定所述系统的裁剪总数量,包括:
8、依据所述噪声信息,确定所述系统的信噪比;
9、依据所述信噪比,确定所述系统的通道保留比例;
10、依据所述通道保留比例和所述卷积层通道的原有总数量,得到裁剪总数量。
11、在一种实现方式中,所述计算所述深度学习模型的每个卷积层通道所对应的重要性,包括:
12、从所述深度学习模型上的所有所述模型权重中,筛选出与每个所述卷积层通道相关的通道相关权重;
13、依据所述通道相关权重,确定每个所述卷积层通道的重要性。
14、在一种实现方式中,所述依据所述通道相关权重,确定每个所述卷积层通道的重要性,包括:
15、确定所述通道相关权重中的权重值和偏置;
16、依据所述权重值和所述偏置,确定每个所述卷积层通道的重要性。
17、在一种实现方式中,所述依据所述重要性,从所有所述卷积层通道中筛选出所述裁剪总数量的目标通道,包括:
18、对所述重要性进行降序排列,以对所有所述卷积层通道进行排序,以得到通道序列;
19、从所述通道序列的尾端依次选取所述裁剪总数量的目标通道;
20、或者,对所述重要性进行升序排列,以对所有所述卷积层通道进行排序,以得到通道序列;
21、从所述通道序列的首端依次选取所述裁剪总数量的目标通道。
22、在一种实现方式中,从所述深度学习模型上裁剪掉所述目标通道,以轻量化所述系统,之后还包括:
23、将测试图像输入至轻量化之后的所述系统,得到所述系统的输出图像;
24、评估所述输出图像的图像质量;
25、依据所述图像质量,以设定学习率调整所述系统上的所述深度学习模型,直至所述图像质量达到设定质量。
26、在一种实现方式中,所述设定学习率小于预训练的学习率,预训练的学习率为预训练所述深度学习模型时的学习率。
27、第二方面,本发明实施例还提供一种信源信道联合编码系统轻量化装置,所述信源信道联合编码系统内部设置有深度学习模型,其中,所述装置包括如下组成部分:
28、裁剪量计算模块,用于采集系统的噪声信息,并基于所述噪声信息,确定所述系统的裁剪总数量;
29、重要性计算模块,用于计算所述深度学习模型的每个卷积层通道所对应的重要性,所述重要性用于表征所述卷积层通道与所述深度学习模型的模型权重之间的相关度;
30、轻量化模块,用于依据所述重要性,从所有所述卷积层通道中筛选出所述裁剪总数量的目标通道,并从所述深度学习模型上裁剪掉所述目标通道,以轻量化所述系统。
31、第三方面,本发明实施例还提供一种终端设备,其中,所述终端设备包括存储器、处理器及存储在所述存储器中并可在所述处理器上运行的信源信道联合编码系统轻量化程序,所述处理器执行所述信源信道联合编码系统轻量化程序时,实现上述所述的信源信道联合编码系统轻量化方法的步骤。
32、第四方面,本发明实施例还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有信源信道联合编码系统轻量化程序,所述信源信道联合编码系统轻量化程序被处理器执行时,实现上述所述的信源信道联合编码系统轻量化方法的步骤。
33、有益效果:本发明首先采集系统的噪声信息,然后根据噪声信息确定可以裁剪的卷积层通道数量,也就是裁剪总数量,并计算每个卷积层通道对系统的深度学习模型的重要性,最后根据每个卷积层通道的重要性,筛选出总数量的目标通道,并将从深度学习模型上裁剪掉这些目标通道,以实现系统的轻量化。从上述分析可知,本发明是根据噪声信息确定可以裁剪的通道数量,以使得裁剪之后的深度学习模型还有处理噪声的能力,从而保证了轻量化系统的通信质量。
技术特征:1.一种信源信道联合编码系统轻量化方法,所述信源信道联合编码系统内部设置有深度学习模型,其特征在于,包括:
2.如权利要求1所述的信源信道联合编码系统轻量化方法,其特征在于,所述基于所述噪声信息,确定所述系统的裁剪总数量,包括:
3.如权利要求1所述的信源信道联合编码系统轻量化方法,其特征在于,所述计算所述深度学习模型的每个卷积层通道所对应的重要性,包括:
4.如权利要求3所述的信源信道联合编码系统轻量化方法,其特征在于,所述依据所述通道相关权重,确定每个所述卷积层通道的重要性,包括:
5.如权利要求1所述的信源信道联合编码系统轻量化方法,其特征在于,所述依据所述重要性,从所有所述卷积层通道中筛选出所述裁剪总数量的目标通道,包括:
6.如权利要求1所述的信源信道联合编码系统轻量化方法,其特征在于,从所述深度学习模型上裁剪掉所述目标通道,以轻量化所述系统,之后还包括:
7.如权利要求6所述的信源信道联合编码系统轻量化方法,其特征在于,所述设定学习率小于预训练的学习率,预训练的学习率为预训练所述深度学习模型时的学习率。
8.一种信源信道联合编码系统轻量化装置,所述信源信道联合编码系统内部设置有深度学习模型,其特征在于,所述装置包括如下组成部分:
9.一种终端设备,其特征在于,所述终端设备包括存储器、处理器及存储在所述存储器中并可在所述处理器上运行的信源信道联合编码系统轻量化程序,所述处理器执行所述信源信道联合编码系统轻量化程序时,实现如权利要求1-7任一项所述的信源信道联合编码系统轻量化方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有信源信道联合编码系统轻量化程序,所述信源信道联合编码系统轻量化程序被处理器执行时,实现如权利要求1-7任一项所述的信源信道联合编码系统轻量化方法的步骤。
技术总结本发明涉及新一代通信技术领域,具体是涉及一种信源信道联合编码系统轻量化方法、装置和设备。本发明首先采集系统的噪声信息,然后根据噪声信息确定可以裁剪的卷积层通道数量,也就是裁剪总数量,并计算每个卷积层通道对系统的深度学习模型的重要性,最后根据每个卷积层通道的重要性,筛选出总数量的目标通道,并将从深度学习模型上裁剪掉这些目标通道,以实现系统的轻量化。从上述分析可知,本发明是根据噪声信息确定可以裁剪的通道数量,以使得裁剪之后的深度学习模型还有处理噪声的能力,从而保证了轻量化系统的通信质量。技术研发人员:吴绍华,张巍瀚,孟思齐,何京航,张钦宇受保护的技术使用者:哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)技术研发日:技术公布日:2024/7/29本文地址:https://www.jishuxx.com/zhuanli/20240730/196111.html
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。
下一篇
返回列表