基于过滤剪枝的化纤丝饼外观缺陷检测网络压缩方法
- 国知局
- 2024-09-11 14:39:21
本发明属于图像处理,涉及一种基于过滤剪枝的化纤丝饼外观缺陷检测网络压缩方法。
背景技术:
1、近几年随着人工智能技术的推广,有关图像高识别率的深度学习方法应用越来越广泛,嵌入式本身便携性好、稳定性高等优点,使得嵌入式部署深度学习模型的需求十分广泛,但却无法直接运用在嵌入式开发板上,由于嵌入式开发板资源有限,难以完成深度学习模型实时推理。因此利用模型压缩手段,来减小模型体积、推理时模型所占用内存和计算单元数量,以达到模型推理实时性,成为近年来研究的热门内容。
2、现有技术中包括探索完整的修剪粒度范围,并评估模型的正则化与准确率之间的权衡。证明粗粒修剪能够达到与细粒修剪相似甚至更好的压缩率,即使它获得的稀疏性较小。
3、还包括非结构化的剪枝方法,非结构剪枝只能通过设计专用的软件库和硬件完成模型解析,运行时内存也没有明显减小,因为大部分内存空间是由函数映射非本身权重加载消耗的。
4、还包括结构化剪枝,可以与硬件和软件库进行很好的兼容,剪枝后模型结构精简,加速模型推理。粗粒度结构化剪枝主要是通道维度剪枝和卷积核维度剪枝,本身就是结构化的剪枝。
技术实现思路
1、鉴于以上问题,本发明针对化纤丝饼外观缺陷检测在部分缺陷检测效果不佳等问题,对检测方法及检测算法进行优化适配,由于在检测过程中会采集很多图片,且检测模型存在很多冗余部分。
2、本发明提供一种基于过滤剪枝的化纤丝饼外观缺陷检测网络压缩方法,原始网络结构依靠γ系数权重与卷积层的每个通道相连接,基于bn层系数进行剪枝,其中,γ系数是可训练的仿射变换参数。
3、优选地,包括以下步骤:
4、s10,利用稀疏性正则化对γ系数进行处理,使其互相之间区分开;
5、s20,识别预设阈值外的通道,即不重要的通道,裁剪不重要的通道;
6、s30,裁剪后,即获得一个轻量化网络模型,再进行微调得到与原始网络模型精度相似度在阈值内的检测模型。
7、优选地,所述s30后的输出再返回s10进行迭代。
8、优选地,所述基于bn层系数进行剪枝中公式为:
9、
10、
11、
12、式中,μb和sb是指输入激活zin在bn层上的平均值和标准偏差;γ和β是可训练的仿射变换参数,分别代表尺度和偏移,e为常数,为原始输出激活,zout为操作后输出激活;(x,y)表示训练输入和训练目标,w表示可训练参数,γ表示所有通道,l表示正则化输出,l(f(x,w),y)对应默认训练的损失函数,f(x,w)为激活函数,g(γ)缩放因子稀疏性上引起的损失,引入λ进行平衡。
13、本发明有益效果至少包括:本发明使用基于bn层剪枝方法对化纤丝饼外观缺陷检测网络模型进行剪枝操作后,轻量化检测模型的检测性能与原检测模型的性能相差不大,但其模型尺寸仅为原检测模型的四分之一不到,证明该算法对于化纤丝饼外观缺陷检测网络模型具有很好的效果。使用基于bn层系数的剪枝方法对本文方法进行剪枝处理,有效的在保证检测精度不会发生太大变化的同时,去除网络中不必要的网络结构。
技术特征:1.一种基于过滤剪枝的化纤丝饼外观缺陷检测网络压缩方法,其特征在于,原始网络结构依靠γ系数权重与卷积层的每个通道相连接,基于bn层系数进行剪枝,其中,γ系数是可训练的仿射变换参数。
2.根据权利要求1所述的一种基于过滤剪枝的化纤丝饼外观缺陷检测网络压缩方法,其特征在于,包括以下步骤:
3.根据权利要求2所述的一种基于过滤剪枝的化纤丝饼外观缺陷检测网络压缩方法,其特征在于,所述s30后的输出再返回s10进行迭代。
4.根据权利要求1所述的一种基于过滤剪枝的化纤丝饼外观缺陷检测网络压缩方法,其特征在于,所述基于bn层系数进行剪枝中公式为:
技术总结本发明公开了基于过滤剪枝的化纤丝饼外观缺陷检测网络压缩方法,包括:S10,利用稀疏性正则化对γ系数进行处理,使其互相之间区分开;S20,识别预设阈值外的通道,即不重要的通道,裁剪不重要的通道;S30,裁剪后,即获得一个轻量化网络模型,再进行微调得到与原始网络模型精度相似度在阈值内的检测模型。本发明采用剪枝技术,对神经网络模型进行轻量化处理,在保证检测精度不会发生太大变化的同时,去除网络中不必要的网络结构。技术研发人员:周柔刚,袁贤琪,李杰,朱俊杰受保护的技术使用者:杭州电子科技大学技术研发日:技术公布日:2024/9/9本文地址:https://www.jishuxx.com/zhuanli/20240911/291719.html
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。