模型训练方法、语义通信传输方法及模型训练装置与流程

本发明涉及数据处理，尤其涉及一种模型训练方法、语义通信传输方法及模型训练装置。

背景技术：

1、语义通信是一种用于解决无线通信中无线频谱资源瓶颈的有效方案。传统的通信技术主要关注物理层的改进，通过利用技术如非正交多址技术或增大物理通信带宽容量等手段来提高通信效率。然而，随着无线网络信号载体从毫米波信号向未来的太赫兹信号发展，通信技术面临缺乏可用无线频谱资源的瓶颈。

2、语义通信通过利用先验知识库，将待传输数据从比特流映射到语义空间。这种映射过程利用数据的语义信息，将数据转化为具有语义含义的形式。通过传输语义数据，可以大大减少传输所需的资源开销，并提高服务质量。通过语义通信，通信系统可以更好地理解和利用数据的内在含义。传统的通信方式通常将数据视为比特流，只关注数据的传输和接收。而语义通信则更注重数据的含义和语义，可以根据数据的语义信息进行更精确的传输和处理。这种方式可以有效地提高数据传输的效率和质量，同时降低通信系统对带宽和资源的需求。

3、语义通信的研究和应用具有广泛的意义。它可以支持超清流媒体、增强现实(ar)、虚拟现实(vr)等新型服务，这些服务对高吞吐量和低传输时延有着极高的要求。此外，语义通信还可以应用于智能物联网、大数据传输和智能交通等领域，为这些领域提供更高效、可靠的通信解决方案。

4、然而，现有的语义通信技术仍然存在以下两个问题：1)传统语义通信的语义码率适应性较差。2)传统语义通信的资源使用灵活性较差。

技术实现思路

1、本发明旨在至少在一定程度上解决相关技术中的技术问题之一。为此，本发明提出一种模型训练方法、语义通信传输方法及模型训练装置，能够高效进行模型训练，以使得训练网络模型精准高效进行语音通信传输。

2、一方面，本发明实施例提供了一种模型训练方法，包括：

3、获取训练数据集合，对训练数据集合进行打乱和分批操作，得到第一数量个批次数据；初始化迭代次数为1；

4、将迭代次数对应的批次数据输入语义提取神经网络进行语义提取，得到第一语义数据；

5、对第一语义数据进行分块操作，得到第一语义块集合；第一语义块集合包括第二数量个语义块：

6、基于预设计算方式确定语义块的重要性；

7、对第一语义块集合中重要性处于最前面的语义块进行随机保留；

8、对随机保留的语义块进行量化处理，整理得到第二语义数据；

9、将第二语义数据输入数据重建神经网络进行数据恢复，得到恢复数据；

10、根据迭代次数对应的批次数据与恢复数据计算损失函数，根据损失函数对语义提取神经网络和数据重建神经网络的模型参数进行更新；

11、将迭代次数加1，然后返回将迭代次数对应的批次数据输入语义提取神经网络进行语义提取，得到第一语义数据这一步骤，直至迭代次数等于第一数量，得到训练完成的语义提取神经网络和数据重建神经网络。

12、可选地，基于预设计算方式确定语义块的重要性，包括：

13、对语义块中所有的单个语义数据进行范数运算和求和运算，得到语义块的重要性；

14、其中，重要性的表达式为：

15、

16、式中，sl表示第l个语义块的重要性；表示根据第j个批次数据得到的第一语义块集合中第l个语义块；yl表示中的单个语义数据；∑表示求和运算；||·|||表示范数运算。

17、可选地，对第一语义块集合中重要性处于最前面的语义块进行随机保留，包括：

18、获取随机正整数；随机正整数小于或等于第二数量；

19、对第一语义块集合中重要性处于最前面的随机正整数个的语义块进行保留，并对第一语义块集合中剩余的语义块进行置零处理。

20、可选地，根据迭代次数对应的批次数据与恢复数据计算损失函数，包括：

21、根据迭代次数对应的批次数据与恢复数据进行均方差计算，得到损失函数；

22、其中，损失函数的表达式为：

23、

24、式中，表示第j个批次数据；表示第j个批次数据对应的恢复数据。

25、另一方面，本发明实施例提供了一种语义通信传输方法，包括：

26、获取待发送数据，配置发送端的初始化参数；初始化参数包括总分块数和发送语义块数；

27、将待发送数据输入语义提取神经网络进行语义提取，得到第三语义数据；

28、对第三语义数据进行分块操作，得到第二语义块集合；第二语义块集合包括总分块数个语义块：

29、基于预设计算方式确定语义块的重要性；

30、对第二语义块集合中重要性处于最前面的发送语义块数个的语义块进行保留；

31、对保留的语义块进行量化处理，将量化处理的结果发送到接收端；以使得接收端根据所有保留的语义块的量化处理的结果整理得到第四语义数据，并将第四语义数据输入数据重建神经网络进行数据恢复，得到目标恢复数据；

32、其中，语义提取神经网络和数据重建神经网络，通过前面的模型训练方法训练得到。

33、可选地，语义通信传输方法还包括：对第二语义块集合中未保留的语义块进行置零处理；对保留的语义块进行量化处理，将量化处理的结果发送到接收端，包括：

34、初始化计数器数值为1；

35、获取第二语义块集合中计数器数值对应的语义块作为目标语义块；

36、当目标语义块不为0，对目标语义块进行量化处理，进而将目标语义块的量化处理的结果传输到接收端；当目标语义块为0，跳过目标语义块；

37、将计数器数值加1，然后返回获取第二语义块集合中计数器数值对应的语义块作为目标语义块这一步骤，直至计数器数值等于总分块数。

38、另一方面，本发明实施例提供了一种模型训练装置，包括：

39、第一模块，用于获取训练数据集合，对训练数据集合进行打乱和分批操作，得到第一数量个批次数据；初始化迭代次数为1；

40、第二模块，用于将迭代次数对应的批次数据输入语义提取神经网络进行语义提取，得到第一语义数据；

41、第三模块，用于对第一语义数据进行分块操作，得到第一语义块集合；第一语义块集合包括第二数量个语义块；

42、第四模块，用于基于预设计算方式确定语义块的重要性；

43、第五模块，用于对第一语义块集合中重要性处于最前面的语义块进行随机保留；

44、第六模块，用于对随机保留的语义块进行量化处理，整理得到第二语义数据；

45、第七模块，用于将第二语义数据输入数据重建神经网络进行数据恢复，得到恢复数据；

46、第八模块，用于根据迭代次数对应的批次数据与恢复数据计算损失函数，根据损失函数对语义提取神经网络和数据重建神经网络的模型参数进行更新；

47、第九模块，用于将迭代次数加1，然后返回将迭代次数对应的批次数据输入语义提取神经网络进行语义提取，得到第一语义数据这一步骤，直至迭代次数等于第一数量，得到训练完成的语义提取神经网络和数据重建神经网络。

48、另一方面，本发明实施例提供了一种语义通信传输装置，包括：

49、第十模块，用于获取待发送数据，配置发送端的初始化参数；初始化参数包括总分块数和发送语义块数；

50、第十一模块，用于将待发送数据输入语义提取神经网络进行语义提取，得到第三语义数据；

51、第十二模块，用于对第三语义数据进行分块操作，得到第二语义块集合；第二语义块集合包括总分块数个语义块；

52、第十三模块，用于基于预设计算方式确定语义块的重要性；

53、第十四模块，用于对第二语义块集合中重要性处于最前面的发送语义块数个的语义块进行保留；

54、第十五模块，用于对保留的语义块进行量化处理，将量化处理的结果发送到接收端；以使得接收端根据所有保留的语义块的量化处理的结果整理得到第四语义数据，并将第四语义数据输入数据重建神经网络进行数据恢复，得到目标恢复数据；

55、其中，语义提取神经网络和数据重建神经网络，通过前面的模型训练装置训练得到。

56、可选地，语义通信传输装置，还包括：

57、第十六模块，用于对第二语义块集合中未保留的语义块进行置零处理。

58、另一方面，本发明实施例提供了一种电子设备，包括：处理器以及存储器；存储器用于存储程序；处理器执行程序实现上述模型训练方法或语义通信传输方法。

59、另一方面，本发明实施例提供了一种计算机存储介质，其中存储有处理器可执行的程序，处理器可执行的程序在由处理器执行时用于实现上述模型训练方法或语义通信传输方法。

60、本发明实施例首先获取训练数据集合，对训练数据集合进行打乱和分批操作，得到第一数量个批次数据；初始化迭代次数为1；将迭代次数对应的批次数据输入语义提取神经网络进行语义提取，得到第一语义数据；对第一语义数据进行分块操作，得到第一语义块集合；第一语义块集合包括第二数量个语义块；基于预设计算方式确定语义块的重要性；对第一语义块集合中重要性处于最前面的语义块进行随机保留；对随机保留的语义块进行量化处理，整理得到第二语义数据；将第二语义数据输入数据重建神经网络进行数据恢复，得到恢复数据；根据迭代次数对应的批次数据与恢复数据计算损失函数，根据损失函数对语义提取神经网络和数据重建神经网络的模型参数进行更新；将迭代次数加1，然后返回将迭代次数对应的批次数据输入语义提取神经网络进行语义提取，得到第一语义数据这一步骤，直至迭代次数等于第一数量，得到训练完成的语义提取神经网络和数据重建神经网络。本发明实施例通过对各个批次训练数据的分块操作，进而基于语义分块重要性的语义分块筛选法，优先传输重要性较高的语义分块，在实际应用中，可根据传输任务的精度要求动态调节，通过对语义数据进行分块、重要性筛选和量化操作，实现了对数据的高效传输。本发明实施例能够精确高效进行语音通信传输。