基于自适应谐振网络的无监督工业异常检测与定位方法、系统、设备和介质
- 国知局
- 2024-09-19 14:41:03
本发明属于机器学习及计算机视觉领域,具体涉及一种基于自适应谐振网络的无监督工业异常检测与定位方法、系统、设备和介质。
背景技术:
1、异常检测(anomaly detection,ad)核心目标在于从海量数据中识别出那些与正常行为模式显著偏离的个体或事件。它在工业生产中扮演着关键角色,主要用于实时监控和分析工业生产过程,以发现潜在的故障、缺陷、安全隐患或其他非正常状况。当前在实际应用中工业图像异常检测面临三大困境,首先是数据分布显著不平衡,正常样本数量庞大且易于获取,而异常样本数量稀少很难收集;其次人工标注数据面临显著挑战,在监督学习过程中,模型训练高度依赖于样本的精确标记,而标记异常样本需要大量的时间和人力,对工业生产应用中不切实际,更进一步人工标注的样本不可避免地会受到标注者主观判断的影响,从而导致一定程度的客观性偏差;最后异常样本展现出多样性特征,大小呈现出无规律的随机变化且种类繁多。因此,异常检测模型通常以单类学习进行,模型在进行训练阶段仅使用正常样本作为参照,并可以在测试阶段识别异常样本信息。
2、近年来,随着机器学习与深度学习的发展,特征嵌入技术逐渐成为图像识别中不可或缺的一部分,这种方法利用深度学习在表征学习方面的强大能力,大大提升图像识别的性能和准确性。其基本思想是将高维、复杂的数据(如图像、文本或用户行为数据)映射到低维向量空间,这个过程被称为特征嵌入(feature embedding)。在低维空间中,相似的原始数据点会尽可能地被映射到相近的嵌入向量上,从而对原始数据进行降维处理的同时保留其内在的结构和语义信息。对于异常检测任务,该方法通常将图像看作多个图像块,然后将每个图像块描述为特征向量,最后通过比较测试图像的特征向量与训练图像的参考向量之间的距离进而实现异常检测与定位。其中参考向量可以由训练图像中所有特征向量构成也可以筛选部分具有代表性的特征向量构成,前一种方式能更好保留所有正常样本的特征向量,但需要消耗大量的计算与存储,并且测试时需消耗较多时间,在实际工业生产中具有局限性;后一种方式虽然大大减少参考向量,但所选择作为参考向量的特征向量往往复杂度较高,无法准确保证参考向量的质量。深度神经网络,特别是卷积神经网络(convolutional neural networks,cnn),随着网络深度的增加,各层提取的特征有所不同,浅层特征主要捕获边缘、纹理、色彩变化等具体细节信息,而深层特征经过多层非线性变换和特征组合后,更倾向图像的整体结构、对象类别或场景上下文信息。这两者对于异常检测都很重要,所以这种方法通常会采用多个层的特征图方式,以提高精度和准确性。但是此方法对于多级式特征过于简陋,仅仅将浅层特征与深层特征之间相连会使得内部特征相互干扰。
3、自适应谐振网络(adaptive resonance theory,art)作为一种具备自组织与自适应特性的神经网络模型,于1976年由stephen grossberg首次提出,基本思想是结合自适应和竞争机制,以实现对输入模式的快速识别和学习,以解决神经网络模型在处理动态模式识别和学习任务时所面临的稳定性-可塑性二难问题(stability-plasticity dilemma),通过art模型,系统可以根据输入数据的特征和模式,自适应地调整自身的结构和参数,从而实现对动态环境的快速响应和适应。art网络通常由两层神经元构成两个子系统:比较层(comparison layer)和识别层(recognition layer),包括三种控制信号:复位信号r、逻辑信号g1和g2。在训练时,训练集中的所有数据都被输入到art中,通过选择函数并找到获胜聚簇,由匹配函数判断获胜聚簇是否发生共振从而找到最佳聚簇与索引并更新权重矩阵。当模型收敛时,所有训练数据都已进行类别分类,这种方式极其适合处理图像块类型的特征数据。
技术实现思路
1、本发明针对现有技术中的不足,提供一种基于自适应谐振网络的无监督工业异常检测与定位方法、系统、设备和介质。
2、为实现上述目的,本发明采用以下技术方案:
3、一种基于自适应谐振网络的无监督工业异常检测与定位方法,包括以下步骤:
4、将若干工业图像分为训练集和测试集;
5、将训练集中的工业图像划分为若干个图像块,使得每个图像块代表一个区域;
6、利用wide-resnet50x2网络作为特征提取器提取每个图像块的特征;
7、将wide-resnet50x2网络前三层提取到的特征视为三个视图;
8、使用三个自适应谐振网络分别为三个视图中的特征向量聚类,将所有特征向量的最佳匹配聚簇投影到二维坐标系中,得到二维坐标系下的最佳匹配聚簇集合;
9、计算训练集中的工业图像中每个图像块与二维坐标系下的最佳匹配聚簇集合中的最佳匹配聚簇之间的最小马氏距离,基于每个图像块的最小马氏距离计算每个图像块的异常得分;基于训练集得到的异常得分设定异常分数阈值;
10、将测试集中的工业图像划分为若干个图像块,计算每个图像块的异常得分,与异常分数阈值比较,大于异常分数阈值则为正常图像块,反之为异常图像块。
11、为优化上述技术方案,采取的具体措施还包括:
12、进一步地,所述使用三个自适应谐振网络分别为三个视图中的特征向量聚类的具体过程为:
13、初始化三个自适应谐振网络,分别记为第一自适应谐振网络art1,第二自适应谐振网络art2,第三自适应谐振网络art3;每个自适应谐振网络均具有一个初始化聚簇中心wj*;
14、每个自适应谐振网络均执行以下操作:
15、计算视图中的特征向量x与初始化聚簇中心wj*的余弦相似度,公式如下:
16、
17、式中,表示特征向量x与聚簇中心wj*的余弦相似度;cos(θ)表示特征向量x与聚簇中心wj*这两向量之间的夹角θ的余弦值;
18、找到余弦相似度的最大值,以得到与特征向量x最近的聚簇,作为获胜聚簇,
19、利用匹配函数计算特征向量x与获胜聚簇的权重之间的匹配度mj*,公式如下:
20、
21、式中,wmax(cos(θ))*表示获胜聚簇的权重,∧表示模糊运算;
22、比较匹配度mj*与预设的警戒值之间是否发生共振,若mj*≥,则发生共振,同时更新获胜聚簇的权重,将获胜聚簇作为最佳匹配聚簇,记为wtaj:
23、wtaj={mj*∈m|mj*≥ρ} (3)
24、式中,m表示当前特征向量批次中最佳匹配聚簇的集合。
25、否则,继续根据余弦相似度找下一个与特征向量x最近的聚簇,再次考察匹配度mj*,直到发生共振。
26、进一步地,所述将所有特征向量的最佳匹配聚簇投影到二维坐标系中,得到二维坐标系下的最佳匹配聚簇集合的具体过程为:
27、将每个特征向量的最佳匹配聚簇投影到二维坐标系中,得到对应的坐标位置(xi,yi),将坐标位置(xi,yi)标记为(xi,yi)j,j为坐标位置(xi,yi)的索引;
28、计算每个聚簇的方差si:
29、
30、式中,ni为投影到每个聚簇i的输入特征向量的个数,xk表示聚簇i的第k个输入特征向量,n表示输入特征向量的总数,表示当前行的权值向量,使用正则化λ·i调整矩阵si,使得满秩且可逆,λ表示正则化系数;
31、将最佳匹配聚簇wtaj、方差sj和坐标位置(xi,yi)j重新构成为:
32、win(j)=(wtaj,sj,(xi,yi)j) (5)
33、式中,win(j)表示映射在二维坐标系下的聚簇匹配综合信息。
34、进一步地,所述计算训练集中的工业图像中每个图像块与二维坐标系下的最佳匹配聚簇集合中的最佳匹配聚簇之间的最小马氏距离的具体过程为:
35、每个图像块的三个视图均有对应的特征向量fit,t∈[1,3],t表示视图的序数,在对应的自适应谐振网络中找到k个最佳匹配聚簇,并计算特征向量与这些最佳匹配聚簇的马氏距离并选择最小的马氏距离作为该图像块在这个视图上的最终马氏距离,具体公式如下:
36、
37、式中,dm(fit,win(j))t表示第t个视图的马氏距离,win(j)表示映射在二维坐标系下的聚簇匹配综合信息;
38、图像块马氏距离之和为:
39、
40、式中,dm(fi,win(j))表示图像块三视图的马氏距离之和;
41、所述基于每个图像块的最小马氏距离计算每个图像块的异常得分具体为:根据得出的dm(fi,win(j)),使用双线性插值方法将异常分数图放大到原始图像大小,从而获得每个图像块的异常分数。
42、进一步地,所述设定异常分数阈值的方法为k-sigma阈值法,具体为:
43、将异常分数用均值μ、标准差σ的高斯分布建模,然后将阈值ψ定义为ψ=μ+kσ,其中k表示阈值因子。
44、本发明还提出一种基于自适应谐振网络的无监督工业异常检测与定位系统,包括:
45、图像划分模块,用于将若干工业图像分为训练集和测试集;将训练集和测试集中的工业图像划分为若干个图像块,使得每个图像块代表一个区域;
46、特征提取模块,用于利用wide-resnet50x2网络作为特征提取器提取每个图像块的特征;
47、聚簇匹配模块,用于将wide-resnet50x2网络前三层提取到的特征视为三个视图;使用三个自适应谐振网络分别为三个视图中的特征向量聚类,将所有特征向量的最佳匹配聚簇投影到二维坐标系中,得到二维坐标系下的最佳匹配聚簇集合;
48、异常分数阈值设定模块,用于计算训练集中的工业图像中每个图像块与二维坐标系下的最佳匹配聚簇集合中的最佳匹配聚簇之间的最小马氏距离,基于每个图像块的最小马氏距离计算每个图像块的异常得分;基于训练集得到的异常得分设定异常分数阈值;
49、异常检测模块,用于计算测试集中的工业图像的每个图像块的异常得分,与异常分数阈值比较,大于异常分数阈值则为正常图像块,反之为异常图像块。
50、本发明还提出一种计算机可读存储介质,存储有计算机程序,所述计算机程序使计算机执行如上所述的基于自适应谐振网络的无监督工业异常检测与定位方法。
51、本发明还提出一种电子设备,包括:存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行计算机程序时,实现如上所述的基于自适应谐振网络的无监督工业异常检测与定位方法。
52、本发明的有益效果是:提出一种基于自适应谐振网络的无监督异常检测与定位方法、系统、设备和介质。本发明通过将特征数据载入自适应谐振网络中,利用自适应谐振网络竞争机制,将最佳匹配聚簇投影到二维坐标系中,使用有限的点位代表所有的特征数据,使得计算分布更加精确,该方法实现了异常检测性能的提高。
本文地址:https://www.jishuxx.com/zhuanli/20240919/299599.html
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 YYfuon@163.com 举报,一经查实,本站将立刻删除。