边缘节点的限流方法、装置及计算设备与流程
- 国知局
- 2025-01-10 13:34:56
本技术涉及计算机,具体涉及一种边缘节点的限流方法、装置、计算设备、计算机存储介质及计算机程序产品。
背景技术:
1、限流是当服务负载或者qps(queries per second,每秒处理的请求数量)超过一定量级时,丢弃一部分请求,是保护服务路径核心系统不被拖垮的常用方案,是服务端常用的一种过载保护手段。目前,常用的限流手段是在qps达到峰值负载时,对一定时间内的单个进程或者单个用户的请求进行限制。
2、现有的限流方式只适用于高qps低吞吐场景,而不适用于低qps高吞度场景。高qps低吞吐场景下,单位时间内处理的请求数量大,数据请求对应的数据量都比较均匀且数据量都较小。低qps高吞度场景下,单位时间内处理的请求数量小,数据请求对应的数据量都是不均匀的,上下行数据差异较大。基于此,现有的限流方案在低qps高吞度场景下的限流效果较差。
技术实现思路
1、鉴于上述问题,提出了本技术以便提供一种克服上述问题或者至少部分地解决上述问题的边缘节点的限流方法、装置、计算设备、计算机存储介质及计算机程序产品。
2、根据本技术的一个方面,提供了边缘节点的限流方法,包括:
3、拦截请求端发起的数据请求;
4、根据当前时段内边缘节点的流量总额度和已占用流量额度,确定剩余流量额度;
5、若剩余流量额度满足限流触发条件且存储有基准性能评价指标,获取边缘节点的实时性能评价指标;
6、若实时性能评价指标不小于基准性能评价指标,对数据请求进行限流处理。
7、可选地,方法进一步包括:
8、若剩余流量额度满足限流触发条件且未存储基准性能评价指标,获取边缘节点的实时性能评价指标;
9、根据实时性能评价指标确定基准性能评价指标,将基准性能评价指标进行存储,并对数据请求进行限流处理。
10、可选地,将基准性能评价指标进行存储之后,方法进一步包括:
11、当前时段结束时,将基准性能评价指标进行清除。
12、可选地,方法进一步包括:确定当前时段内边缘节点的流量总额度;
13、其中,每一个周期包含按照第一时长划分得到的多个时段,各个周期是按照第二时长划分得到的。
14、可选地,确定当前时段内边缘节点的流量总额度进一步包括:
15、若当前时段是周期内的第一个时段,确定当前时段内边缘节点的流量总额度为补充流量额度;
16、若当前时段是周期内的除第一个时段之外的其他时段,根据补充流量额度以及当前时段之前的至少一个时段的时段剩余流量额度的累加和,确定当前时段内边缘节点的流量总额度。
17、可选地,方法进一步包括:
18、若实时性能评价指标小于基准性能评价指标,对数据请求进行响应。
19、根据本技术的另一方面,提供了边缘节点的限流装置,包括:
20、拦截模块,用于拦截请求端发起的数据请求;
21、第一处理模块,用于根据当前时段内边缘节点的流量总额度和已占用流量额度,确定剩余流量额度;
22、第二处理模块,用于若剩余流量额度满足限流触发条件且存储有基准性能评价指标,获取边缘节点的实时性能评价指标;若实时性能评价指标不小于基准性能评价指标,对数据请求进行限流处理。
23、可选地,第二处理模块进一步用于:
24、若剩余流量额度满足限流触发条件且未存储基准性能评价指标,获取边缘节点的实时性能评价指标;
25、根据实时性能评价指标确定基准性能评价指标,将基准性能评价指标进行存储,并对数据请求进行限流处理。
26、可选地,第二处理模块进一步用于:
27、将基准性能评价指标进行存储之后,当前时段结束时,将基准性能评价指标进行清除。
28、可选地,第一处理模块进一步用于:
29、确定当前时段内边缘节点的流量总额度;
30、其中,每一个周期包含按照第一时长划分得到的多个时段,各个周期是按照第二时长划分得到的。
31、可选地,第一处理模块进一步用于:
32、若当前时段是周期内的第一个时段,确定当前时段内边缘节点的流量总额度为补充流量额度;
33、若当前时段是周期内的除第一个时段之外的其他时段,根据补充流量额度以及当前时段之前的至少一个时段的时段剩余流量额度的累加和,确定当前时段内边缘节点的流量总额度。
34、可选地,第二处理模块进一步用于:
35、若实时性能评价指标小于基准性能评价指标,对数据请求进行响应。
36、根据本技术的又一方面,提供了一种计算设备,包括:处理器、存储器、通信接口和通信总线,所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信;
37、所述存储器用于存放至少一可执行指令,所述可执行指令使所述处理器执行上述边缘节点的限流方法对应的操作。
38、根据本技术的再一方面,提供了一种计算机存储介质,所述存储介质中存储有至少一可执行指令,所述可执行指令使处理器执行如上述边缘节点的限流方法对应的操作。
39、根据本技术的还一方面,提供了一种计算机程序产品,包括至少一可执行指令,所述可执行指令使处理器执行如上述边缘节点的限流方法对应的操作。
40、根据本技术实施例提供的边缘节点的限流方法、装置、计算设备、计算机存储介质及计算机程序产品,拦截请求端发起的数据请求;根据当前时段内边缘节点的流量总额度和已占用流量额度,确定剩余流量额度;若剩余流量额度满足限流触发条件且存储有基准性能评价指标,获取边缘节点的实时性能评价指标;若实时性能评价指标不小于基准性能评价指标,对数据请求进行限流处理。通过上述方式,实现了结合实时剩余流量额度和实时性能的限流管理方式,以及,实现了以时段为时间粒度的限流管理方式,每当拦截到数据请求时就进行限流策略的判断,若当前时段内边缘节点的剩余流量额度不足,进一步判断边缘节点的实时性能是否达到规定的性能上限值,若已经达到规定的性能上限值,则对数据请求进行限流,保证当前时段的剩余时间内边缘节点的带宽维持平稳,在低qps高吞度场景下能够取得较好的限流效果和带宽管理效果。
41、进一步地,以当前时段内首次监测到满足限流触发条件时边缘节点的qps为基准qps,后续再满足限流触发条件时将实时qps和基准qps进行比对,只有在实时qps小于基准qps的情况下,才对数据请求进行响应,实现了在满足限流触发条件时就启动限制qps继续增长的单进单出的限流方式,即完成一个数据请求才允许处理新的数据请求,能够实现在剩余流量额度不足时避免qps继续增长,以此来限制边缘节点的整体带宽,保证当前时段的剩余时间内边缘节点的带宽保持稳定,在低qps高吞吐场景下既能有效限流又能保持边缘节点的整体带宽稳定;同时,能够根据边缘节点的实时情况确定基准qps,能够保证限流阈值更加匹配边缘节点的实时线上情况,进一步提升在低qps高吞度场景的限流管理效果。
42、进一步地,以时段为时间粒度进行限流管理,以边缘节点的带宽上限为限制,量化边缘节点发送数据的情况,在周期内每间隔一定时长动态地对边缘节点的流量总额度进行补充,能够实现更精细化地限流管理,实现了保障边缘节点的带宽整体平稳的同时,还能够避免边缘节点的带宽超出限制。
43、上述说明仅是本技术技术方案的概述,为了能够更清楚了解本技术的技术手段,而可依照说明书的内容予以实施,并且为了让本技术的上述和其它目的、特征和优点能够更明显易懂,以下特举本技术的具体实施方式。
本文地址:https://www.jishuxx.com/zhuanli/20250110/354018.html
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。