无线蜂窝系统中大语言模型应用的方法

本发明涉及数据处理技术，更具体的说，是涉及无线蜂窝系统中大语言模型的应用方法和装置。

背景技术：

1、随着芯片算力和人工智能算法的进步，手机等终端设备也用到了大语言模型(large language model, 简称为llm)，用于文本、语音、图像处理、无线信号处理等。这里的大语言模型一般指使用大量文本数据训练的深度学习模型，可以生成自然语言文本或理解语言文本的含义。大语言模型也可简称为大模型，泛指参数比较多的人工智能模型。基于手机的大语言模型，其参数集可以到几亿甚至几十亿量级，可以处理一些简单的人工智能应用。但是针对一些比较复杂的任务，例如图像的处理或者音视频的处理，受模型、手机硬件和其他条件的限制，需要在网络侧进行大语言模型的应用（例如推理、训练等）。针对一种基于大语言模型的使用场景，如何权衡用户体验、复杂度、功耗等多个因素，在终端侧和网络侧动态地切换大语言模型应用是需要考虑的问题。

2、目前，将大语言模型技术引入到终端的数据处理中，研究刚刚开始，信令机制没有确定，存在较多的优化问题需要解决。

技术实现思路

1、有鉴于此，本发明提供如下技术方案：

2、一种无线蜂窝系统中大语言模型应用的方法，应用于终端的数据处理，其特征在于，包括：

3、针对一种终端中基于大语言模型的应用，终端采用分级触发策略动态地切换其大语言模型的应用模式，其中分级触发策略首先判断终端的参数是否满足大语言模型应用的条件，其中参数至少包括终端剩余电量、大语言模型能否提供答案、大语言模型响应时延。如果以上参数满足在终端应用大语言模型的条件，在终端进行大语言模型的应用。如果以上参数不满足在终端应用大语言模型的条件，基于网络侧参数判断是否可以在网络侧进行大语言模型应用，其网络侧参数至少包括终端的数据传输费用和数据传输时延。如果网络侧参数满足在网络侧进行大语言模型应用的条件，终端将数据传输到网络侧进行大语言模型应用。在网络侧进行大语言模型应用的过程中，终端随时监测自身参数，判断终端的参数是否满足大语言模型应用的条件，如果满足在终端应用大语言模型的条件，动态地切回到在终端应用大语言模型。

4、该方法包括，基于大语言模型的应用，至少包括：用于文本总结、语言翻译、音频优化、视频优化或者无线信号处理的大语言模型的训练、学习和推理。

5、该方法进一步包括，判断终端的参数是否满足大语言模型应用的条件，至少包括：首先终端剩余电量大于第一种特定阈值；其次大语言模型能够在预计时间内提供答案。

6、该方法还进一步包括，基于网络侧参数判断是否可以在网络侧进行大语言模型应用，至少包括：首先终端的数据传输费用小于第二种特定阈值；其次终端的数据传输时延小于第三种特定阈值。

7、该方法还进一步包括，终端随时监测自身的参数，判断终端的参数是否满足大语言模型应用的条件，其判断条件至少包括：首先终端剩余电量大于第一种特定阈值；其次大语言模型能够在预计时间内提供答案。

8、一种无线蜂窝系统中的大语言模型应用的处理装置，应用于终端的数据处理，其特征在于，包括：针对一种终端中基于大语言模型的应用，终端采用分级触发策略动态切换其大语言模型的应用模式，其中分级触发策略首先判断终端的参数是否满足大语言模型应用的条件，其中参数至少包括终端剩余电量、大语言模型能否提供答案、大语言模型响应时延。如果以上参数满足在终端应用大语言模型的条件，在终端进行大语言模型的应用。如果以上参数不满足在终端应用大语言模型的条件，基于网络侧参数判断是否可以在网络侧进行大语言模型应用，其网络侧参数至少包括终端的数据传输费用和数据传输时延。如果网络侧参数满足在网络侧进行大语言模型应用的条件，终端将数据传输到网络侧进行大语言模型应用。在网络侧进行大语言模型应用的过程中，终端随时监测自身参数，判断终端的参数是否满足大语言模型应用的条件，如果满足在终端应用大语言模型的条件，动态地切回到在终端应用大语言模型。

9、经由上述的技术方案可知，与现有技术相比，本发明实施例公开了一种无线蜂窝系统中的大语言模型应用的方法，方法包括：针对一种终端中基于大语言模型的应用，终端采用分级触发策略动态地切换其大语言模型的应用模式，其中分级触发策略首先判断终端的参数是否满足大语言模型应用的条件，其中参数至少包括终端剩余电量、大语言模型能否提供答案、大语言模型响应时延。如果以上参数满足在终端应用大语言模型的条件，在终端进行大语言模型的应用。如果以上参数不满足在终端应用大语言模型的条件，基于网络侧参数判断是否可以在网络侧进行大语言模型应用，其网络侧参数至少包括终端的数据传输费用和数据传输时延。如果网络侧参数满足在网络侧进行大语言模型应用的条件，终端将数据传输到网络侧进行大语言模型应用。在网络侧进行大语言模型应用的过程中，终端随时监测自身参数，判断终端的参数是否满足大语言模型应用的条件，如果满足在终端应用大语言模型的条件，动态地切回到在终端应用大语言模型。

技术特征：

1.一种无线蜂窝系统中大语言模型应用的方法，应用于终端的数据处理，其特征在于，包括：

2.根据权利要求1所述的一种无线蜂窝系统中大语言模型应用的方法，其特征在于，所述的基于大语言模型的应用，至少包括：

3.根据权利要求1所述的一种无线蜂窝系统中大语言模型应用的方法，其特征在于，所述的判断终端的参数是否满足大语言模型应用的条件，至少包括：

4.根据权利要求1所述的一种无线蜂窝系统中大语言模型应用的方法，其特征在于，所述的基于网络侧参数判断是否可以在网络侧进行大语言模型应用，至少包括：

5.根据权利要求1所述的一种无线蜂窝系统中大语言模型应用的方法，其特征在于，所述的终端随时监测自身参数，判断终端的参数是否满足大语言模型应用的条件，至少包括：

6.一种无线蜂窝系统中的大语言模型应用的处理装置，应用于终端的数据处理，其特征在于，包括：

技术总结本申请公开了一种无线蜂窝系统中大语言模型应用的方法，方法包括：针对一种终端中基于大语言模型的应用，终端采用分级触发策略动态地切换其大语言模型的应用模式，其中分级触发策略首先判断终端的参数是否满足大语言模型应用的条件，其中参数至少包括终端剩余电量、大语言模型能否提供答案、大语言模型响应时延。如果以上参数满足在终端应用大语言模型的条件，在终端进行大语言模型的应用。如果以上参数不满足在终端应用大语言模型的条件，基于网络侧参数判断是否可以在网络侧进行大语言模型应用，其网络侧参数至少包括终端的数据传输费用和数据传输时延。如果网络侧参数满足在网络侧进行大语言模型应用的条件，终端将数据传输到网络侧进行大语言模型应用。在网络侧进行大语言模型应用的过程中，终端随时监测自身参数，判断终端的参数是否满足大语言模型应用的条件，如果满足在终端应用大语言模型的条件，动态地切回到在终端应用大语言模型。技术研发人员：韩丽华受保护的技术使用者：北京物资学院技术研发日：技术公布日：2024/10/10