一种迁移学习与模型剪枝融合的矿石分类方法

本发明涉及矿石分选过程，具体涉及一种迁移学习与模型剪枝融合的矿石分类方法。

背景技术：

1、传统的选矿方法，如手选、重选、浮选等虽然能够在一定程度上实现矿石的分选，但它们各自都存在一些局限性和不足，如识别精度低、占地空间大，需要较高的投入成本等，还存在着环境和安全方面的挑战。伴随着计算机技术与图像处理技术的发展，机器视觉技术已经成为矿物分选领域的重要应用方向，其中基于双能x射线的矿石分选技术因其高效、绿色环保、经济等特点受到了广泛关注。该技术利用x射线在不同能量与物质相互作用的差异，通过分析x射线穿透矿物后的图像，可以有效地区分不同类型的矿物。

2、目前针对x射线矿石图像分类主要以r值法为代表的机理模型分类方法为主。在理想情况下，在单色能谱时高能和低能两个能级的质量衰减系数之比r值计算如下式所示：

3、

4、式中分别为高能和低能时的x射线初始强度，μm(ehigh)、μm(elow)为高、低能时物质的质量吸收系数，σx(ehigh)、σx(elow)为高低能时物质的总截面。在x射线为双能单色谱的情况下，可以将质量厚度进行简单相消，此时r值的计算不受质量和厚度等因素的影响，因而r值反映物质的物质平均原子序数，因此可以将不同的原子序数的物质进行区分开。然而在实际使用中r值法易受到射束硬化效应、厚度效应、余晖效应等影响。在实际情况中一般选用具有连续光谱的x射线管作为x射线光源，此时并不符合上述的双能光谱的条件，连续光谱穿过物体时，低能量射线易被吸收，高能量射线易通过，因而在射线传播过程中，平均能量会变高，射线逐渐变硬，此现象被称为射束硬化效应。此外，在连续光谱情况下，物体的质量厚度影响无法被忽略，r值的计算将会受到影响。当在皮带上进行传输的矿石经过x射线透射区域时，x传感器上的信号强度并不会突然增加或减少，而是缓慢的变化，这种x射线信号变化延迟的现象称为x射线探测器的余晖效应。余晖效应会导致物体的图像边缘灰度信息出现偏差，进而导致在分割时无法精确提取物体的边缘轮廓，此外，进一步的会影响适应r值法进行物质类别的判断效果。

5、近年来，随着深度学习的应用越来越广泛，不乏有大量研究人员将视觉技术应用至矿山中，提升矿石分选效率。基于inception-v3网络实现了花岗岩、千枚岩和张角砾岩三种岩石的自动分类，将lenet-5卷积神经网络进行优化，完成了煤与煤矸石的二分类任务，使用改进的pso-faster r-cnn算法对矿石进行识别，速度和精度都得到一定提升，使用预训练的mobilenetv2模型通过迁移学习来检测材料堆积，使用efficientnet对矿石图像进行特征提取，实现了不同矿石的分类。然而使用深度学习进行矿石分类时往往面临数据集合不足的问题，迁移学习可以缓解这个问题。基于迁移学习的思想，冻结vgg16浅层模型，再自定义全连接层，将煤矸识别准确率提升至82.5％。采用迁移后的深度学习模型对黑钨矿石与围岩进行二分类，达到了97.51％的识别率。

技术实现思路

1、为了解决当前基于x射线矿石分类主要以r值法为代表的机理模型为主，在进行x射线矿石分类时由于利用特征单一，易受厚度效应及射束硬化效应、余晖效应影响因而会导致的矿石分类精度不高且r值阈值矫正较为繁杂的问题，本发明提供一种迁移学习与模型剪枝融合的矿石分类方法，为了实现上述技术目的，本发明采用如下技术方案：

2、一种迁移学习与模型剪枝融合的矿石分类方法，包括如下步骤：

3、s1：在数据模型中获得预训练模型；

4、s2：根据幅值或相似性指标对预训练模型浅层部分进行重新初始化，获得部分初始化的模型；

5、s3：将浅层部分初始化后的模型在目标数据集上进行重新微调。

6、优选地，步骤s1具体如下：

7、s11：进行多组实验数据集的迁移学习，根据迁移学习的效果选择具有正迁移作用的数据集使用；

8、s12：选择预训练模型，分析预训练模型网络结构，定义相应模型的目标浅层区域。

9、优选地，步骤s2具体如下：

10、s21：将预训练模型浅层部分视为一个整体，识别出互相依赖的参数组作为整体进行处理，即依赖组{g1,g2,…gi}；

11、s22：对于具有l层的神经网络，ni和ni+1分别表示第i层的输入和输出的通道数，则第i层的第j个具有k×k大小的卷积核表示为因而对于第i层的卷积层，网络中包含的卷积核集合表示为fi,j，其中1≤j≤ni+1，其权重值表示为第i层卷积核fi,j的权重值表示为一维向量其含义为在第i个卷积层中包含ni+1个卷积核向量，每个向量的大小为mi＝ni×k×k；引入幅值裁剪比例wmag作为一个决策因子，引入裁剪率p来判断何时使用幅值或相似性指标；

12、根据依赖组卷积核的幅值指标选择；使用卷积核的范数作为衡量卷积核重要性的一种方式；将第j层卷积xj表示为则其p范数可由下式计算：

13、

14、计算得到卷积核的幅值后，需要按照大小将其进行排序，并根据目标裁剪率p×wmag确定待裁剪的依赖组；

15、s23：重新初始化直到超过幅值裁剪比例，转而根据依赖组卷积核的相似性指标选择，进行相似性大小排序，再次重新初始化；通过下式所示的余弦相似度作为评价指标，其中x，y表示为依赖组中各个子模块：

16、

17、在计算得到卷积核的两两相似性后得到相似性矩阵后，为确定待裁剪的依赖组，需要按照相似性大小进行排序，按照目标裁剪率p×(1-wmag)确定要裁剪的子模块的个数，并将选定卷积核对中的两个卷积核的其中一个作为待裁剪的子模块wi；

18、s24：执行s22、s23，迭代处理不重要的卷积核，并获得其对应的依赖组，并对依赖组中的所有子模块进行部分重新初始化，在计算最新的重新初始化率后，与目标初始化率进行比较，如果不满足继续执行s22、s23，直到初始化的比例超过目标初始化比例。

19、优选地，步骤s3具体如下：

20、s31：在得到释放了部分浅层参数的重新初始化后的模型mr之后，将其浅层部分参数逐一赋值给完全重新初始化的模型mn后，即可得到浅层部分初始化且深层全部初始化的目标模型mn'；

21、s32：将模型mn'在目标数据集dt上进行训练，直到模型收敛，就可以得到最终的微调后的模型md。

22、本发明提出了一种迁移学习与模型剪枝融合的矿石分类方法，利用预训练的深度学习模型，通过迁移学习来减少对大量标注数据的依赖，并通过对模型浅层进行部分重新初始化来释放模型的浅层冗余参数，使得微调后模型的浅层部分能够更好地反映目标数据集上的特征。

23、与现有技术相比，本发明的有益效果：

24、1、本发明引入了迁移学习以解决应用深度学习模型时的矿石数据集不足的问题，为在利用模型在预训练数据集上学习得到的特征的同时，更好的学习在目标数据集上的特征。

25、2、本发明使用幅值和相似性度量这两个广泛使用的指标来衡量卷积核的相似度，利用了模型剪枝的思想对模型的浅层进行部分初始化以释放冗余参数。

26、3、本发明将部分初始化后的模型在锑矿数据集上进行微调，得到更加适合于矿石特征的模型。