一种基于flask框架的轻量级深度学习模型部署方法与流程

本发明涉及深度学习模型部署相关领域。主要涉及到基于轻量级flask框架的模型部署方案，该方案极大程度上减小了算法对于硬件设备的需求。

背景技术：

1、深度学习目前已普遍应用于现实生活中各个领域，依托于模型部署方法使得pc端训练得到的模型可以应用于不同设备之上，例如手机等移动设备。

2、目前常见的模型部署方法如tensorrt等，然而这类部署方法对于计算机硬件条件较为严苛，在一定程度上增加了模型部署的成本。

3、flask框架技术作为轻量级部署方法，通过构建api服务便可以将训练得到的模型进行部署并充当服务端，等待客户端传递图片等信息便可以进行调用访问。该技术可以快速实现模型的部署且支持跨语言调用，同时对于设备硬件要求较低。

技术实现思路

1、针对现有技术存在的不足，本发明提供了一种基于flask框架的轻量级深度学习模型部署方法，本发明通过flask框架技术作为轻量级部署方法，通过构建api服务便可以将训练得到的模型进行部署并充当服务端，等待客户端传递图片等信息便可以进行调用访问。该技术可以快速实现模型的部署且支持跨语言调用，同时对于设备硬件要求较低。

2、为实现上述目的，本发明提供如下技术方案:

3、一种基于flask框架的轻量级深度学习模型部署方法，包括以下步骤：

4、步骤s1：预处理阶段，在flask服务端定义相关配置信息及api接口；

5、步骤s2：根据适用于不同项目选择单通道或多通道；

6、步骤s3：flask服务端开启模型服务，并打印相关的通道信息，客户端通过api接口传递图像信息调用对应的模型部署方案并等待flask服务端的响应。

7、作为本发明进一步的方案，在步骤s1中，定义相关配置信息包括定义当前模型部署配置文件，其中包括ip地址，端口号、模型仓库、前处理操作、后处理操作。

8、作为本发明进一步的方案，在步骤s2中，单通道方式代表flask服务端内预加载单个模型部署方案；多通道方式代表flask服务端内预加载多个模型部署方案。

9、作为本发明进一步的方案，在步骤s2中，单通道模式设置如下：预先在flask服务端配置单通道内涉及的模型部署方案及加载模型方案并打印当前通道的信息；根据方案中最后返回的模型的类别将返回不同的结果进行前处理操作以及后处理操作；前处理操作针对客户端传递的图像进行一定的预处理操作，后处理操作为模型推理得到的结果进行进一步的判断操作。

10、作为本发明进一步的方案，在步骤s2中，多通道模式设置如下：预先在flask服务端配置多模型部署方案及加载多个模型方案并打印多个通道的信息；根据方案中最后返回的模型的类别将返回不同的结果进行前处理操作以及后处理操作；前处理操作对客户端传递的图像进行一定的预处理操作，后处理操作为模型推理得到的结果进行进一步的判断操作。

11、本发明具有以下有益效果：

12、本发明采用了一种基于flask框架的轻量级深度学习模型部署方法，采用了基于flask框架的轻量级部署方式，可以通过预先定义模型所需配置的方式完成模型的部署。通过不同api接口的方式支持客户端调用多种模型方案完成不同的任务。该部署方式降低了部署成本，减少了对于设备硬件的硬性需求。该部署方式支持跨语言调用，增加了灵活性。

13、本发明提出了一种基于flask框架的轻量级深度学习模型部署方法，通过设定api接口的形式来定义多个模型部署方案，同时支持单通道及多通道两种方式。服务端通过定义的ip地址以及端口号预先加载模型配置文件如模型权重文件、图像中单个目标类别等模型配置信息，启动服务成功后，将打印当前的单个或多个通道信息。在服务端成功开启后，客户端只需选择调用的api接口并传入如图像等信息发送请求给服务端进行调用，调用成功后等待接收服务端发送的响应，解决了现有部署方案成本较大的问题；该方案通过api接口的方式完成部署且对硬件设备要求较低，降低了模型部署的成本，同时支持跨语言部署调用。

14、为更清楚地阐述本发明的结构特征和功效，下面结合附图与具体实施例来对本发明进行详细说明。

技术特征：

1.一种基于flask框架的轻量级深度学习模型部署方法，其特征在于，包括以下步骤：

2.如权利要求1所述的一种基于flask框架的轻量级深度学习模型部署方法，其特征在于，在步骤s1中，定义相关配置信息包括定义当前模型部署配置文件，其中包括ip地址，端口号、模型仓库、前处理操作、后处理操作。

3.如权利要求2所述的一种基于flask框架的轻量级深度学习模型部署方法，其特征在于，在步骤s2中，单通道方式代表flask服务端内预加载单个模型部署方案；多通道方式代表flask服务端内预加载多个模型部署方案。

4.如权利要求3所述的一种基于flask框架的轻量级深度学习模型部署方法，其特征在于，在步骤s2中，单通道模式设置如下：预先在flask服务端配置单通道内涉及的模型部署方案及加载模型方案并打印当前通道的信息；根据方案中最后返回的模型的类别将返回不同的结果进行前处理操作以及后处理操作；前处理操作针对客户端传递的图像进行一定的预处理操作，后处理操作为模型推理得到的结果进行进一步的判断操作。

5.如权利要求4所述的一种基于flask框架的轻量级深度学习模型部署方法，其特征在于，在步骤s2中，多通道模式设置如下：预先在flask服务端配置多模型部署方案及加载多个模型方案并打印多个通道的信息；根据方案中最后返回的模型的类别将返回不同的结果进行前处理操作以及后处理操作；前处理操作对客户端传递的图像进行一定的预处理操作，后处理操作为模型推理得到的结果进行进一步的判断操作。

技术总结本发明公开了一种基于flask框架的轻量级深度学习模型部署方法，包括以下步骤：步骤S1：预处理阶段，在flask服务端定义相关配置信息及API接口；步骤S2：根据适用于不同项目选择单通道或多通道；步骤S3：flask服务端开启模型服务，并打印相关的通道信息，客户端通过API接口传递图像信息调用对应的模型部署方案并等待flask服务端的响应，该技术可以快速实现模型的部署且支持跨语言调用，同时对于设备硬件要求较低。技术研发人员：黄冠杰,陈红星受保护的技术使用者：上海帆声图像科技有限公司技术研发日：技术公布日：2024/9/2