技术新讯 > 电子通信装置的制造及其应用技术 > 数据处理方法及系统、装置、非易失性存储介质与流程  >  正文

数据处理方法及系统、装置、非易失性存储介质与流程

  • 国知局
  • 2024-08-02 14:17:47

本技术涉及流量数据监控,具体而言,涉及一种数据处理方法及系统、装置、非易失性存储介质。

背景技术:

1、定时探测是一种用于监测和检测特定事件或条件的方法,它通过定期执行检测操作来获取关于系统状态或环境变化的信息。在网络监控领域,定时探测可以用于检测网络设备的运行状态、网络流量的变化、传输速率的波动等。通过定时探测,管理员可以及时发现并解决网络故障或异常,确保网络的正常运行。为了定时探测web等应用的健康性,往往会在互联网上建设多个探测节点,健康性检测是通过客户端对web应用发起请求,后根据返回结果是否符合预期实现的。

2、当进行全链路抓包监测时,只能通过对互联网协议(internet protocol,ip)地址进行过滤,以确定全链路中的探测数据包。但是,这样的话每增加一个节点就需要进行配置。此外,全链路的数据包抓包只能在服务器端进行,无法通过抓包得知数据包发出的时间,无法进行时间延迟的计算,如果对所有数据包进行抓包保存成本太高。而且,相关技术不能精确识别业务探测流量的数据包。tcp(传输控制协议,transmission controlprotocol)/ip协议在通过路由器后,客户端的网卡媒体访问控制(media access control,mac)地址会变成路由器的mac地址。在ipv4场景中,网卡都是内网地址,通过出口路由设备网络地址转换(network address translation,nat)为出口公网地址。举例而言,一个办公室内,既有正常的用户,又有探测节点,它们到达云侧时ip地址和mac是一样的。只是4层的端口不同,云侧不能通过端口来分辨是哪个客户端,这是随机的。如果通过7层的信息来识别,因为现在大多数http协议,这个协议是加密的就需要在全链路抓包节点上传应用的证书,进行加解密并配置解析7层某个字段。这就需要进行二次配置和加解密,性能开发大,也相对复杂。并且需要获取用户的证书有安全风险。

3、针对上述的问题,目前尚未提出有效的解决方案。

技术实现思路

1、本技术实施例提供了一种数据处理方法及系统、装置、非易失性存储介质,以至少解决由于相关技术在对目标网络链路中的数据包进行监控时,只能利用过滤网络地址的方式确定目标链路中探测数据包,造成对目标网络链路的监控效率低下的技术问题。

2、根据本技术实施例的一个方面,提供了一种数据处理方法,包括:探测服务器获取第一目标数据包,其中,第一目标数据包为探测客户端基于目标协议发送至应用服务器的数据包,其中,第一目标数据包中至少包括:第一预设字段以及第二预设字段,第一预设字段用于表征第一目标数据包是否基于目标协议进行传输、第一目标数据包中是否包括第一时间戳以及是否包括探测客户端的第一网络地址,第二预设字段用于表征第一时间戳以及第一网络地址的内容;在第一目标数据包为探测数据包的情况下,通过第一预设字段以及第二预设字段,确定第一时间戳以及第一网络地址,并将第一网络地址转化为第二网络地址;探测服务器将第二目标数据包发送至应用服务器,其中,第二目标数据包中至少包括:第一流表,第一流表中至少包括:第二网络地址;探测服务器接收第三目标数据包,其中,第三目标数据包为应用服务器发送至探测客户端,用于响应第二目标数据包的数据包,其中,第三目标数据包中至少包括:第二流表,第二流表中包括:第二网络地址以及第二时间戳;根据第一时间戳以及第二时间戳,确定探测客户端与应用服务器之间的传输时延。

3、可选地,探测服务器获取第一目标数据包,包括:探测服务器获取目标交换机传输的第一目标数据包,其中,第一目标数据包为探测客户端基于目标协议,经由目标交换机发送至应用服务器的数据包,第一目标数据包中至少包括:第一预设字段以及第二预设字段,其中,第一预设字段为对传输控制协议tcp中的保留字段进行预设置得到的,第二预设字段为对tcp中的可选字段进行预设置得到的。

4、可选地,第一预设字段中包括以下至少之一:第一标记位、第二标记位、第三标记位、第四标记位,其中,第一标记位,用于表征第一目标数据包是否基于目标协议进行传输;第二标记位,用于表征目标协议是否传输时间戳;第三标记位,用于表征目标协议是否传输互联网协议ip地址;第四标记位,用于表征目标协议是否传输媒体访问控制mac地址;通过第一预设字段,确定第一目标数据包是否为探测数据包,包括:在第一预设字段中的第一标记位为第一字符的情况下,确定第一目标数据包基于目标协议进行传输,并确定第一目标数据包为探测数据包。

5、可选地,第二预设字段中包括:kind字段、length字段以及info字段,其中,kind字段为tcp中未定义的目标字符;info字段包括:第一目标数据包的第一时间戳和/或探测客户端的第一ip地址和/或探测客户端的第一mac地址;通过第一预设字段以及第二预设字段,确定第一时间戳以及第一网络地址,并将第一网络地址转化为第二网络地址,包括:在第一预设字段中的第二标记位为第一字符的情况下,确定info字段中包括第一时间戳,并在info字段中获取第一时间戳;在第一预设字段中的第三标记位为第一字符的情况下,确定info字段中包括第一ip地址,并在info字段中获取第一ip地址;在第一预设字段中的第四标记位为第一字符的情况下,确定info字段中包括第一mac地址,并在info字段中获取第一mac地址。

6、可选地,第一目标数据包为探测数据包的情况下,方法还包括:存储探测数据包;将info字段写入探测服务器的日志中。

7、可选地,探测服务器将第二目标数据包发送至应用服务器,包括:探测服务器基于tcp,将第二目标数据包发送至应用服务器;探测服务器获取第三目标数据包,包括:探测服务器获取目标交换机传输的第三目标数据包,其中,第三目标数据包为应用服务器基于tcp,经由目标交换机发送至探测客户端的数据包。

8、根据本技术实施例的再一方面,还提供了一种数据处理系统,包括:探测服务器、探测客户端以及应用服务器,其中,

9、探测服务器分别与探测客户端以及应用服务器通信连接,执行以上的数据处理方法;探测客户端,用于向应用服务器发送第一目标数据包;应用服务器,用于接收并响应于第一目标数据包,并向探测客户端发送第二目标数据包。

10、根据本技术实施例的再一方面,还提供了一种数据处理装置,包括:第一获取模块,用于探测服务器获取第一目标数据包,其中,第一目标数据包为探测客户端基于目标协议发送至应用服务器的数据包,其中,第一目标数据包中至少包括:第一预设字段以及第二预设字段,第一预设字段用于表征第一目标数据包是否基于目标协议进行传输、第一目标数据包中是否包括第一时间戳以及是否包括探测客户端的第一网络地址,第二预设字段用于表征第一时间戳以及第一网络地址的内容;第一确定模块,用于在第一目标数据包为探测数据包的情况下,通过第一预设字段以及第二预设字段,确定第一时间戳以及第一网络地址,并将第一网络地址转化为第二网络地址;发送模块,用于探测服务器将第二目标数据包发送至应用服务器,其中,第二目标数据包中至少包括:第一流表,第一流表中至少包括:第二网络地址;第二获取模块,用于探测服务器接收第三目标数据包,其中,第三目标数据包为应用服务器发送至探测客户端,用于响应第二目标数据包的数据包,其中,第三目标数据包中至少包括:第二流表,第二流表中包括:第二网络地址以及第二时间戳;第二确定模块,用于根据第一时间戳以及第二时间戳,确定探测客户端与应用服务器之间的传输时延。

11、根据本技术实施例的再一方面,还提供了一种非易失性存储介质,存储介质包括存储的程序,其中,程序运行时控制存储介质所在的设备执行以上的数据处理方法。

12、根据本技术实施例的再一方面,还提供了一种电子设备,包括:存储器和处理器,处理器用于运行存储在存储器中的程序,其中,程序运行时执行以上的数据处理方法。

13、根据本技术实施例的再一方面,还提供了一种计算机程序,其中,所述计算机程序被处理器执行时实现以上的数据处理方法。

14、根据本技术实施例的再一方面,还提供了一种计算机程序产品,计算机程序产品包括非易失性计算机可读存储介质,其中,非易失性计算机可读存储介质存储计算机程序,计算机程序被处理器执行时实现以上的数据处理方法。

15、在本技术实施例中,采用探测服务器获取第一目标数据包,其中,第一目标数据包为探测客户端基于目标协议发送至应用服务器的数据包,其中,第一目标数据包中至少包括:第一预设字段以及第二预设字段,第一预设字段用于表征第一目标数据包是否基于目标协议进行传输、第一目标数据包中是否包括第一时间戳以及是否包括探测客户端的第一网络地址,第二预设字段用于表征第一时间戳以及第一网络地址的内容;在第一目标数据包为探测数据包的情况下,通过第一预设字段以及第二预设字段,确定第一时间戳以及第一网络地址,并将第一网络地址转化为第二网络地址;探测服务器将第二目标数据包发送至应用服务器,其中,第二目标数据包中至少包括:第一流表,第一流表中至少包括:第二网络地址;探测服务器接收第三目标数据包,其中,第三目标数据包为应用服务器发送至探测客户端,用于响应第二目标数据包的数据包,其中,第三目标数据包中至少包括:第二流表,第二流表中包括:第二网络地址以及第二时间戳;根据第一时间戳以及第二时间戳,确定探测客户端与应用服务器之间的传输时延的方式,达到了对探测数据包进行快速精准识别和全链路抓包保存的目的,从而实现了提升对目标网络链路的监控效率的技术效果,进而解决了由于相关技术在对目标网络链路中的数据包进行监控时,只能利用过滤网络地址的方式确定目标链路中探测数据包,造成对目标网络链路的监控效率低下的技术问题。

本文地址:https://www.jishuxx.com/zhuanli/20240801/242309.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。