一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

一种基于NAT和虚拟网桥的推理服务器的制作方法

2022-06-05 08:14:28 来源:中国专利 TAG:

技术特征:
1.一种基于nat和虚拟网桥的推理服务器,用于与外网设备进行通信,其特征在于:所述基于nat和虚拟网桥的推理服务器包括分析单元和管理单元,所述分析单元包括第一主控模块和多个ai模块,所述第一主控模块配置有虚拟网桥、nat规则和路由转发功能,并设有用于与所述外网设备连接的外网网卡和用于与各所述ai模块连接的内网网卡,所述虚拟网桥用于实现各所述ai模块之间的通信,所述ai模块用于搭载预训练好的模型,并配置有与所述虚拟网桥同网段的ip地址和默认网关,所述默认网关为所述虚拟网桥的ip地址,所述第一主控模块通过nat规则自动获取所述外网网卡的ip地址且其路由转发功能为开启状态;所述管理单元包括第二主控模块和多个硬盘,所述外网设备和各所述硬盘均与所述第二主控模块连接,并执行如下操作:所述第二主控模块下发目标分析任务和所需外网设备的配置信息至所述第一主控模块,所述第一主控模块根据接收的目标分析任务和所需外网设备的配置信息创建目标检测任务,然后根据目标检测任务指定ai模块发起取流请求并将对应的数据包发放至所述虚拟网桥,所述第一主控模块通过路由转发功能将数据包由所述虚拟网桥转发至所述外网网卡,并通过nat规则将所述外网网卡中的数据包的源ip地址转换为所述外网网卡的ip地址后,再将转换后的数据包转发至所需外网设备,然后所需外网设备下发数据回包至所述外网网卡,所述第一主控模块通过nat规则将所述外网网卡中的数据回包的目的ip地址转换为指定ai模块的ip地址,并通过路由转发功能将转换后的数据回包由所述外网网卡转发至所述虚拟网桥后,再将数据回包由所述虚拟网桥发送至指定ai模块,所述ai模块通过预训练好的模型对接收的数据回包进行目标检测,并获得检测结果,所述第一主控模块将检测结果发送至所述第二主控模块并存储至对应的硬盘。2.如权利要求1所述的基于nat和虚拟网桥的推理服务器,其特征在于:所述第一主控模块还包括第一主板和第一背板,所述第一主板、内网网卡和第一背板依次连接,所述第一背板还与各所述ai模块连接;所述第二主控模块包括依次连接的第二主板、raid卡和第二背板,所述第二背板还与各所述硬盘连接,所述第二主板还与外网设备连接。3.如权利要求2所述的基于nat和虚拟网桥的推理服务器,其特征在于:所述第一主控模块还包括第一接口模块、第一连接板和第一控制面板,所述第一接口模块、第一主板、第一连接板、第一背板和第一控制面板依次连接,所述第二主控模块还包括第二接口模块、第二连接板和第二控制面板,所述第二接口模块、第二主板连接、第二连接板、第二背板和第二控制面板依次连接。4.如权利要求3所述的基于nat和虚拟网桥的推理服务器,其特征在于:所述第一接口模块和第二接口模块均包括usb接口、网络接口、电源接口、串口、vga接口和pci-e插槽,所述第一控制面板和第二控制面板均设有系统指示灯、usb接口、开关按钮和复位按钮。5.如权利要求2所述的基于nat和虚拟网桥的推理服务器,其特征在于:所述第一主控模块还包括第一风扇和第一电源模块,所述第一风扇和第一电源模块均与所述第一主板连接,所述第二主控模块还包括第二风扇和第二电源模块,所述第二风扇和第二电源模块均与所述第二主板连接。6.如权利要求1所述的基于nat和虚拟网桥的推理服务器,其特征在于:所述ai模块的数量为24个,所述硬盘的数量为12个。7.如权利要求1所述的基于nat和虚拟网桥的推理服务器,其特征在于:所述第一主控
模块和第二主控模块通过交换机与外网设备进行通信。8.如权利要求1所述的基于nat和虚拟网桥的推理服务器,其特征在于:所述外网设备为摄像机或计算机。9.如权利要求1所述的基于nat和虚拟网桥的推理服务器,其特征在于:所述外网设备的配置信息包括ip地址、端口号、用户名和密码。

技术总结
本发明公开了一种基于NAT和虚拟网桥的推理服务器,包括分析单元和管理单元,分析单元包括第一主控模块和多个AI模块,第一主控模块配置有虚拟网桥、NAT规则和路由转发功能,并设有外网网卡和用于与各AI模块连接的内网网卡,通过NAT规则获取外网网卡的IP地址,虚拟网桥用于实现各AI模块之间的通信,AI模块用于搭载预训练好的模型,并配置有与虚拟网桥同网段的IP地址和默认网关;管理单元包括第二主控模块和多个硬盘,外网设备和各硬盘均与第二主控模块连接。本申请采用双控架构,可实现大规模并行推理计算实时分析,具有高可靠性、高安全性、低延时、大容量存储性能,且易管理、易部署,适用于多场景下的应用开发。用于多场景下的应用开发。用于多场景下的应用开发。


技术研发人员:宋全恒 荣明双 邵绵欢
受保护的技术使用者:中国电子科技集团公司第五十二研究所
技术研发日:2022.01.29
技术公布日:2022/6/4
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献