一种请求调度的优化方法及终端与流程

本发明涉及数据处理领域，特别涉及一种请求调度的优化方法及终端。

背景技术：

1、现在的互联网系统中，为了支持高并发的场景，服务端基本都会采用微服务架构的部署方式。并且都会部署多个的应用实例，这些实例都会在注册中心进行注册，当客户端需要使用时，会从注册中心拉取路由地址列表，并根据特定的路由规则，调度请求至不同的实例中。

2、此场景下，无论实例部署在何种机器上，对于客户端来说，都是同样的节点，无特点区分。流量也只能均分或者按照固定策略调度到对应的实例上，即使某些接口响应时间快或者慢也无法进行针对性处理，同时请求延迟增大也无智能化的解决方法。

技术实现思路

1、本发明所要解决的技术问题是：提供一种请求调度的优化方法及终端，解决请求响应时间延迟的问题。

2、为了解决上述技术问题，本发明采用的技术方案为：

3、一种请求调度的优化方法，包括步骤：

4、s1、根据原机型历史数据获得每个接口的历史平均响应时间；

5、s2、监控并统计每个接口在预设时长内的平均响应时间，并在任一接口的平均响应时间超过历史平均响应时间预设倍率时，将此接口的请求部分调度至上位机型的对应接口；所述上位机型的处理能力优于原机型的处理能力。

6、为了解决上述技术问题，本发明采用的另一技术方案为：

7、一种请求调度的优化终端，包括存储器、处理器以及存储在所述存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时完成以下步骤：

8、s1、根据原机型历史数据获得每个接口的历史平均响应时间；

9、s2、监控并统计每个接口在预设时长内的平均响应时间，并在任一接口的平均响应时间超过历史平均响应时间预设倍率时，将此接口的请求部分调度至上位机型的对应接口；所述上位机型的处理能力优于原机型的处理能力。

10、本发明的有益效果在于：提供一种请求调度的优化方法及终端，根据原机型历史数据确认每个接口的历史平均响应时间，从而以历史平均响应时间为基准判断接口的处理能力是否稳定，当发现任一接口的平均响应时间超过历史响应时间预设倍率时，为了保证响应速度，将此接口的部分请求调度至比原接口所在机型处理能力更强的上位机型，从而减轻原机型的负担，对每个机型的请求进行动态管理，避免负载失调，保证每个接口的响应速度。

技术特征：

1.一种请求调度的优化方法，其特征在于：包括步骤：

2.根据权利要求1所述的一种请求调度的优化方法，其特征在于：所述步骤s2具体包括步骤：

3.根据权利要求1所述的一种请求调度的优化方法，其特征在于：所述步骤s2还包括步骤：

4.根据权利要求1-3任一所述的一种请求调度的优化方法，其特征在于：所述机型包括普通机、中型机和大型机；所述中型机为普通机的上位机型，所述大型机为中型机的上位机型。

5.根据权利要求4所述的一种请求调度的优化方法，其特征在于：所述步骤s2还包括步骤：

6.一种请求调度的优化终端，其特征在于：包括存储器、处理器以及存储在所述存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时完成以下步骤：

7.根据权利要求6所述的一种请求调度的优化终端，其特征在于：所述步骤s2具体包括步骤：

8.根据权利要求6所述的一种请求调度的优化终端，其特征在于：所述步骤s2还包括步骤：

9.根据权利要求6-8任一所述的一种请求调度的优化终端，其特征在于：所述机型包括普通机、中型机和大型机；所述中型机为普通机的上位机型，所述大型机为中型机的上位机型。

10.根据权利要求9所述的一种请求调度的优化终端，其特征在于：所述步骤s2还包括步骤：

技术总结本发明提供一种请求调度的优化方法及终端，根据历史数据获得每个接口的历史平均响应时间；监控并统计每个接口在预设时长内的平均响应时间，并在任一接口的平均响应时间超过历史响应时间预设倍率时，将此接口的请求部分调度至上位机型的对应接口；上位机型的处理能力优于原机型的处理能力。本发明当发现任一接口的平均响应时间超过历史平均响应时间预设倍率时，为了保证响应速度，将此接口的部分请求调度至比原接口所在机型处理能力更强的上位机型，从而减轻原机型的负担，对每个机型的请求进行动态管理，避免负载失调，保证每个接口的响应速度。技术研发人员：刘德建,张少敏,郭孟祺,郑坦,郑锦斌,陈宏受保护的技术使用者：福建天泉教育科技有限公司技术研发日：技术公布日：2024/7/25