基于种群相似度引导的地下城市管道图像分类方法
- 国知局
- 2024-07-31 23:10:51
本发明属于自动化机器学习,具体涉及一种基于种群相似度引导的地下城市管道图像分类方法。
背景技术:
1、深度学习已经在图像分类、目标检测和自然语言处理等各种计算机视觉领域取得了巨大的成功,其中深度卷积神经网络成为其主要的模型之一。迄今为止,已经出现了许多手工设计的深度卷积神经网络,在许多公共数据集上展现了优秀的性能。然而,地下城市管道用于市政城市服务,其种类与各种类的用途存在错综复杂的关系,因此地下城市管道图像分类模型的构建需要专家不断的设计网络架构并且需要从头训练网络架构直至收敛,此过程需要大量的人力资源和硬件资源,因此提供神经网络架构搜索算法,克服这些挑战;
2、神经网络架构搜索算法能够在给定的特定任务上自动搜索适当的网络架构,现有的神经网络架构搜索算法为基于种群的优化算法,根据生物演化过程中的优胜劣汰机制和遗传规律求解优化问题,因具备全局的搜索能力而被广泛适用于神经网络架构搜索当中;
3、但是基于遗传算法的神经网络架构搜索方法,在搜索过程中没有学习种群潜在的经验知识来指导种群的进化,这会导致前期种群在搜索空间上的探索度较低,会使得种群盲目性的进化脱离实际运用;同时算法不具备提高对局部优解的搜索能力,增加计算机运行负载,因此现有的神经网络架构搜索方法所获得的结果不具备严谨的指导性,不能运用于地下城市管道的分类。
技术实现思路
1、发明目的:为了克服现有技术中的不足,本发明提供一种基于种群相似度引导的地下城市管道图像分类方法,通过本发明的方法使用基于遗传算法的搜索策略来探索搜索空间,利用训练数据集对种群中个体进行训练并在验证数据集上获得其适应度;分别计算两两个体网络之间的微观cell相似度和宏观网络相似度来生成种群相似矩阵记录当前种群的相似信息;结合二元锦标赛选择和种群相似度选择方法利用来更好的选择父代个体,从而能有效的探索全局的搜索空间;设计改进式的单点交叉算子对子代进行更好的探索,从而增加搜索空间的局部探索性能,从全局和局部两方面加强搜索策略的探索能力,精准地获得性能优异的神经网络,对地下城市管道进行精确的分类。
2、技术方案:第一方面本发明提供一种基于种群相似度引导的地下城市管道图像分类方法,包括:
3、获取地下城市管道图像数据集,对地下城市管道图像数据集进行预处理获得地下城市管道训练数据集和地下城市管道验证数据集;
4、将地下城市管道训练数据集导入基于神经网络的个体网络搜索空间进行训练,获得种群中的各个个体权重,并基于地下城市管道验证数据集对种群中的各个个体权重进行预测,获得各个个体在地下城市管道验证数据集上的预测分布向量和各个个体的适应度;
5、根据个体在地下城市管道验证数据集上的预测分布向量,计算种群中各个个体之间的宏观网络相似度;通过基于神经网络的个体网络搜索空间,获得种群中相邻个体在地下城市管道验证数据集上之间的微观单元相似度;以及对各个个体的适应度进行排序,选择部分适应度高于其它的个体;
6、根据宏观网络相似度和微观单元相似度,生成种群相似矩阵;
7、部分适应度高于其它的个体代入种群相似矩阵计算相似度,获得部分适应度高于其它个体所对应的相似度最高个体,用于作为第一类父集;以及采用二元锦标赛算法对部分适应度高于其它的个体进行随机选择,获得第二类父集,其中,第一类父集和第二类父集的个体数量总和等同于种群中个体的数量;
8、第一类父集和第二类父集分别通过单点交叉算子进行个体的交叉概率计算,获得第一类父集和第二类父集所对应的第一类子集和第二类子集;
9、根据个体适应度对第一类父集和第二类父集以及第一类子集和第二类子集进行迭代的重置判断,确定最终父集和子集;并合并最终父集和子集;
10、根据合并的最终父集和子集,确定适应度最高个体并输出最高个体,作为地下城市管道图像分类的最优神经网络架构。
11、在进一步的实施例中,获取地下城市管道图像数据集,对地下城市管道图像数据集进行预处理获得地下城市管道训练数据集和地下城市管道验证数据集的方法包括:
12、对地下城市管道图像数据集进行翻转、裁剪操作,获得裁剪、翻转后的地下城市管道图像数据集;
13、对裁剪、翻转后的地下城市管道图像数据集按照9:1的数量关系进行划分,获得训练数据集和验证数据集。
14、在进一步的实施例中,所述基于神经网络的个体网络搜索空间采用基于种群的遗传算法搜索策略构建而成,其中,基于神经网络的个体网络搜索空间预设有遗传代数数量,用于指定子集和父集的迭代次数;以及对搜索空间中神经网络节点的连接和操作进行二进制编码和实数编码,获得个体网络搜索空间中各个个体的编码结果。
15、在进一步的实施例中,个体网络搜索空间中各个个体的编码结果的获取过程包括:
16、对搜索空间中神经网络节点的连接进行二进制编码,获得神经网络节点之间的边;
17、对搜索空间中神经网络节点的操作进行实数编码,获得搜索空间中神经网络节点的顺序排列;
18、按照每个神经网络节点的顺序排列进行连接和操作编码,获得基于单元神经网络架构的各个个体的编码结果。
19、在进一步的实施例中,将地下城市管道训练数据集导入基于神经网络的个体网络搜索空间进行训练,获得种群中的各个个体权重的方法包括:
20、将训练数据集输入基于神经网络的个体网络搜索空间进行训练,获得分类误差;
21、将分类误差导入到交叉熵损失函数计算获得损失值;
22、使用损失值进行反向传播计算出梯度;
23、根据梯度,获得个体权重;并根据个体权重更新个体网络搜索空间;
24、其中,初始化个体网络搜索空间训练迭代次数为25,学习率初始值为0.1,使用余弦退火策略进行学习率衰减,使用sgd优化算法作为个体网络算法优化器;
25、在个体网络更新过程中,若发现个体网络训练迭代次数达到上限或损失值收敛止预设范围内稳定时,则停止训练个体网络,用于验证集的预测;否则继续训练个体网络;
26、交叉熵损失函数的计算公式为:
27、
28、式中,class表示目标数据集的类别数量,i表示导入训练数据集的类别序号,p(xi)表示训练数据集的第i类的真实分布,q(xi)表示个体网络预测第i类的分布,p(xi)logq(xi)表示第i类的损失值,表示目标数据集上所有类别的损失值。
29、在进一步的实施例中,基于地下城市管道验证数据集对种群中的各个个体权重进行预测,获得各个个体在地下城市管道验证数据集上的预测分布向量和各个个体的适应度的方法包括:
30、根据停止训练的个体网络搜索空间,确定种群中的各个个体权重;
31、根据验证数据集分别对种群中的各个个体权重进行计算,获得各个个体权重在验证数据集上的预测分布向量,其中,通过验证数据集上各个类别分别对各个个体权重进行类别权重向量的验证计算,获得各个个体在验证数据集上的预测分布向量;
32、根据各个个体在验证数据集上的预测分布向量,确定各个个体预测分布向量的上限值,用于作为各个个体预测的类别;
33、将各个个体预测的类别和验证数据集中的真实类别分别进行计算,获得各个个体的适应度。
34、在进一步的实施例中,根据个体在地下城市管道验证数据集上的预测分布向量,计算种群中各个个体之间的宏观网络相似度的方法包括:
35、对各个个体的预测分布向量进行解析,获得各个个体在每个分布向量上的分量;
36、对各个个体在分布向量上的分量进行差值、相对值计算,获得各个个体在每个分布向量上单个分量的相似度;
37、将每个分布向量上的各个个体分量继续叠加计算,获得各个个体在每个分布向量上的相似度;
38、各个个体在每个分布向量上的相似度进行二进制映射,获得各个个体之间的宏观网络相似度;
39、其中,种群中相邻个体之间的宏观网络相似度的表达式为:
40、
41、式中,式中,fli,t表示第i个个体在分布向量上第t个分量,class是目标数据集上的类别数量,flj,t表示第j个个体在分布向量上第t个分量,t表示分布向量的分量序号,|fli,t-flj,t|表示各个个体在每个分布向量上单个分量的相似度,表示各个个体在每个分布向量上的相似度。
42、在进一步的实施例中,通过基于神经网络的个体网络搜索空间,获得种群中相邻个体在地下城市管道验证数据集上之间的微观单元相似度的方法包括:
43、基于神经网络的个体网络搜索空间的初始种群,确定种群中各个个体的编码结果;其中,各个个体的编码结果为按照每个神经网络节点的顺序排列,将编码结果按照连接位和操作位进行提取,分别获得连接编码值和操作编码值;
44、对各个个体的编码结果进行差值、绝对值计算,分别获得各个个体在连接编码值和操作编码值上单个编码位的相似度;
45、将各个个体单个编码位的相似度进行累加计算,分别获得各个个体之间在连接编码值和操作编码值上的编码相似度;
46、其中,各个个体在连接编码值上的编码相似度的表达式为:
47、
48、式中,celli,k表示第i个个体的第k个节点连接编码值,cellj,k表示第j个个体的第k个节点连接编码值,total代表的是单元连接编码的总位数,k表示单元的连接编码位的序号,~|celli,k-cellj,k|表示各个个体在连接编码值上单个编码位的相似度,表示各个个体之间在连接编码值上的编码相似度;
49、各个个体在操作编码值上的编码相似度的表达式为:
50、
51、
52、式中,celli,t和max分别表示第i个个体的第t个节点和cell中节点的数量,channel是指是指节点操作输出的通道数量,w表示节点操作输出通道数量的序号,feai,w是指节点i中操作输出的特征图经过全局平均池化层和和归一化层得到的一维通道的第w个通道,|feai,w-feaj,w|表示各个个体单个节点单个特征图相似度,表示各个个体单个节点特征图相似度;f(celli,cellj)表示各个个体单个节点相似度的计算值,表示各个个体节点在操作编码值上的编码相似度。
53、在进一步的实施例中,根据宏观网络相似度和微观单元相似度,生成种群相似矩阵的方法包括:
54、将各个个体之间的宏观网络相似度和微观单元相似度分别进行同类别内的累加计算,获得种群相似矩阵;
55、其中,种群相似矩阵的表达式为:
56、
57、式中,link表示各个个体连接编码相似度,op表示各个个体节点操作相似度,nn表示各个个体之间的宏观网络相似度。
58、在进一步的实施例中,根据个体适应度对第一类父集和第二类父集以及第一类子集和第二类子集进行迭代的重置判断,确定最终父集和子集的方法包括:
59、分别解析第一类父集、第二类父集、第一类子集、第二类子集中的个体,确定第一类父集、第二类父集、第一类子集、第二类子集的适应度;
60、分别对比第一类父集和第一类子集及第二类父集和第二类子集的适应度,判断在下一次迭代过程中是否重置第一类父集、第二类父集中个体的数量;
61、其中,若第一类子集的适应度大于第一类父集适应度且第二类子集的适应度小于第二类父集适应度,则在下一次迭代过程中增加部分适应度高于其它个体的数量,重新生成种群相似矩阵、重置第一类父集、第二类父集,以及基于重置的第一类父集、第二类父集生成第一类子集、第二类子集;
62、若第一类子集的适应度小于第一类父集适应度且第二类子集的适应度大于第二类父集适应度,则在下一次迭代过程中减少部分适应度高于其它个体的数量,重新生成种群相似矩阵、重置第一类父集、第二类父集,以及基于重置的第一类父集、第二类父集生成第一类子集、第二类子集;
63、若第一类子集的适应度大于第一类父集适应度且第二类子集的适应度大于第二类父集适应度,则在下一次迭代过程中确定保持第一类父集、第二类父集和第一类子集、第二类子集的个体数量不变;
64、根据指定迭代次数,输出第一类父集、第二类父集和第一类子集、第二类子集作为最终父集和子集。
65、有益效果:本发明与现有技术相比具有以下优点:
66、使用基于遗传算法的搜索策略来探索搜索空间,利用训练数据集对种群中个体进行训练并在验证数据集上获得其适应度;分别计算两两个体网络之间的微观cell相似度和宏观网络相似度来生成种群相似矩阵记录当前种群的相似信息,解决了传统的遗传算法没有学习到当前种群的潜在经验知识,当前种群的潜在经验知识可以有效的指导种群的进化。
67、结合二元锦标赛选择和种群相似度选择方法利用来更好的选择父代个体,从而能有效的探索全局的搜索空间;设计改进式的单点交叉算子对子代进行更好的探索,从而增加搜索空间的局部探索性能,从全局和局部两方面加强搜索策略的探索能力,提高了搜索策略向最优解的方向搜索的效率,减小计算量,优化计算机负载同时精确地得到性能优异的神经网络。
本文地址:https://www.jishuxx.com/zhuanli/20240730/196263.html
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。
下一篇
返回列表