一种基于元学习的自监督域适应方法与流程

技术特征：
1.一种基于元学习的自监督域适应方法，其特征在于，包括以下步骤：步骤1，设置训练器和测试器：将目标域样本的重建过程作为元学习中的训练器，将源域样本的分类过程作为元学习中的测试器；步骤2，利用目标域样本进行图像重建任务并计算重建损失：将无标签的目标域样本输入特征提取网络得到目标域样本特征，然后将目标域样本特征输入图像重建网络进行图像重建并计算重建损失；步骤3，对特征提取网络进行参数更新：利用训练器中的重建损失对训练器中的特征提取网络进行参数更新，由于权值共享，测试器中的特征提取网络的参数和训练器中的特征提取网络参数一起更新，即使得测试器中网络的参数更新方向趋向训练器中网络的参数更新方向；步骤4，利用源域样本进行分类任务并计算分类损失：将有标签的源域数据输入参数更新后的特征提取网络得到源域数据特征，然后将源域数据特征输入分类网络进行图像分类任务并计算分类损失；步骤5，计算总损失函数并对全部网络进行参数更新：计算总损失函数，并对训练器和测试器中的特征提取网络、重建网络和分类网络进行参数更新。2.根据权利要求1所述的一种基于元学习的自监督域适应方法，其特征在于，步骤1具体方法如下：将目标域样本x
t
的重建过程作为元学习中的元训练器(meta
‑
train)，将源域样本x
s
的分类过程作为元学习中的元测试器(meta
‑
test)；其中有标签的源域表示为s＝{x
s
,y
s
}，x
s
∈x
s
和y
s
∈y
s
分别表示源域样本和相应的标签，无标签的目标域表示为t＝{x
t
}，其中x
t
∈x
t
表示目标域样本。3.根据权利要求2所述的一种基于元学习的自监督域适应方法，其特征在于，步骤2具体方法如下：将无标签的目标域样本x
t
输入特征提取网络g得到目标域样本特征f
t
，然后将目标域样本特征f
t
输入图像重建网络d进行图像重建得到目标域重建样本并计算重建损失l
r
；其中特征提取网络g采用resnet
‑
50结构，resnet的基本单元通过跳接将之前层的输出与本层计算的输出相加，并将求和的结果输入到激活函数中作为本层的输出；通过resnet
‑
50的特征提取过程，得到目标域样本特征f
t
＝g(x
t
)；图像重建网络d采用解码器结构，通过一系列上采样将目标域样本特征f
t
还原为原图大小，即(f
t
)；重建损失为：其中n
t
为目标域样本个数，j为目标域中第j个样本。4.根据权利要求3所述的一种基于元学习的自监督域适应方法，其特征在于，步骤3具体方法如下：利用训练器中的重建损失l
r
对特征提取网络g进行参数更新，即：
其中为当前特征提取网络的参数，为经过更新后的特征提取网络的参数，α为学习率，为解码器d的参数，表示对参数求梯度，梯度下降采用随机梯度下降算法；由于权值共享，测试器中的特征提取网络g的参数θ和训练器中的特征提取网络g的参数θ一起更新，即迫使测试器中图像分类等特定任务对网络的参数更新方向趋向训练器中自监督图像重建任务对网络的参数更新方向。5.根据权利要求4所述的一种基于元学习的自监督域适应方法，其特征在于，步骤4具体方法如下：将有标签的源域数据x
s
输入参数更新后的特征提取网络g得到源域数据特征f
s
，然后将源域数据特征f
s
输入分类网络c进行图像分类任务并计算分类损失；其中分类网络c采用多全连接层加softmax层结构，全连接层结构，其每一个结点都与上一层的所有结点相连，用于将提取到的特征进行综合，并经过softmax层输出图像预测标签即分类损失为失为n
s
为源域样本个数，k为源域中第k个样本。6.根据权利要求5所述的一种基于元学习的自监督域适应方法，其特征在于，步骤5具体方法如下：计算总损失函数l，并对训练器和测试器中的特征提取网络g、重建网络d和分类网络c进行参数更新，即：其中β为学习率，{θ
g
,θ
d
,θ
c
}
t
为当前时刻网络的参数，总损失函数如下：其中，θ
c
表示分类网络的参数，λ为超参数，用于控制图像重建任务和图像分类任务对网络参数更新的影响大小，l
r
(θ
g
,θ
d
)表示在网络参数为θ
g
和θ
d
时计算得到的图像重建损失，时计算得到的图像重建损失，表示在网络参数为和θ
c
时计算得到的图像分类损失。

技术总结
本发明公开了一种基于元学习的自监督域适应方法，将目标域图像重建作为域适应过程中的自监督任务，监督信息即为目标域图像本身，不需要额外的目标域图像标注信息，节省了大量人工标注成本；此外，目标域图像的重建过程能够使网络学习到目标域图像中更丰富的高层语义信息，使得网络能够利用目标域数据的内在特征来辅助网络将源域数据中学习到的知识向目标域迁移，从而提升域适应方法的性能。通过将元学习策略引入自监督域适应中，使得目标域自监督任务和源域分类等特定任务对网络参数的更新方向趋于一致，使得网络能够更好地提取域不变特征，减少了域适应任务和特定任务对网络参数的更新方向不一致造成的负迁移问题，提升了域适应性能。了域适应性能。了域适应性能。


技术研发人员：路统宇 颜成钢 孙垚棋 张继勇 李宗鹏
受保护的技术使用者：杭州电子科技大学
技术研发日：2021.06.29
技术公布日：2021/10/23