(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210718773.8 (22)申请日 2022.06.23 (71)申请人 四川启睿 克科技有限公司 地址 610000 四川省成 都市中国 （四川） 自 由贸易试验区成都高新区天府四街 199号1栋33层 (72)发明人 伍强　展华益　刘明华　 (74)专利代理 机构 四川省成 都市天策商标专利 事务所(有限合 伙) 51213 专利代理师 刘堋 (51)Int.Cl. G06T 7/00(2017.01) G06N 3/08(2006.01) G06V 10/74(2022.01) G06V 10/774(2022.01)G06V 10/82(2022.01) (54)发明名称 基于知识蒸馏的无监督图像缺陷检测方法、 装置及介质 (57)摘要 本发明公开了一种基于知识蒸馏的无监督 图像缺陷检测方法、 装置及介质， 方法包括： 构建 教师模型， 利用与待检测缺陷领域无关的数据集 进行训练， 然后对学生模型提供有益于缺陷检测 的知识指导； 构建学生模型， 用于提取图像的多 尺度特征图； 利用学生模型构建无缺陷图像的多 尺度特征集合， 得到学生特征图集合； 利用学生 特征图集合 建立像素级缺陷检测模 型集合； 接收 用户终端发送的图像、 像素级 缺陷阈值和图像级 缺陷阈值； 计算多尺度特征图与像素级缺陷检测 模型集合的距离， 得到距离矩阵， 通过距离矩阵 与像素级缺陷阈值和图像级缺陷阈值之间的关 系， 判断用户终端发送的图像是否存在缺陷。 本 发明只需要无缺陷的样本即可解决缺陷样本少 和无缺陷样本的问题。 权利要求书3页 说明书6页 附图1页 CN 115187525 A 2022.10.14 CN 115187525 A 1.一种基于知识蒸馏的无监 督图像缺陷检测方法， 其特 征在于， 包括： 构建教师模型， 所述教师模型是利用与待检测缺陷领域无关的数据集进行训练得到， 然后对学生模型提供有益于缺陷检测的知识指导； 构建学生模型， 所述学生模型用于提取图像的多尺度特 征图； 利用学生模型构建无缺陷图像的多尺度特 征集合， 得到学生特 征图集合； 利用所述学生特 征图集合建立像素级缺陷检测模型集 合； 接收用户终端发送的图像、 像素级缺陷 阈值和图像级缺陷 阈值； 利用所述学生模型建立所述图像的多尺度 特征图， 计算所述多尺度特征图与 所述像素 级缺陷检测模型集合的距离， 得到距离矩阵， 通过距离矩阵与像素级缺陷阈值和图像级缺 陷阈值之间的关系， 判断用户终端发送的图像是否存在缺陷。 2.根据权利要求1所述的基于知识蒸馏的无监督图像缺陷检测方法， 其特征在于， 所述 构建教师模型的方法包括： 构建一个神经网络模型作为初始教师模型和一个与待检测缺陷领域无关的数据集； 设定损失函数为交叉熵； 在所述待检测缺陷领域无关的数据集上采用反 向传播的方法训练所述初始教师模型， 得到所述教师模型。 3.根据权利要求2所述的基于知识蒸馏的无监督图像缺陷检测方法， 其特征在于， 所述 构建学生模型的方法包括： 构建初始学生模型和一个待检测缺陷领域的无缺陷数据集； 设定损失函数为 公式中L表示中间 网络的层数， 其中l∈[1， L]， wl为第l层网络的权重， 表示教师网络和学生网络的第 l层的局部误差， 表示教师网络和学生网络的第l层的全局误差， α ∈[0， 1]为平衡 全局误差和局部误差， losstotal代表的是教师网络与学生网络之间的总的知识偏差， 通过这 一项学生网络和老师网络被连接起来， 并且通过最小化目标函数把教师网络的知识传递到 学生网络， 所述的 和 通过如下方式得到， 教师网络的特征图为 教师网络的池化特征为 学生网络的特征 图为 学生网络的池化特征为 定义局部误 差 全局误差 其中， Dist(.)表示距离度量至少包括欧式距离或者 余弦距离； 在待检测缺陷领域的无缺陷数据集上采用反 向传播的方法训练所述的初始学生模型， 并且在训练过程中， 教师模型的参数保持不变， 只更新初始学生模型的参数， 得到所述学生 模型。 4.根据权利要求3所述的基于知识蒸馏的无监督图像缺陷检测方法， 其特征在于， 所述 构建学生特 征图集合的方法包括： 将无缺陷图像输入学生模型， 提取至少一个中间层的输出 特征图； 将小分辨 率特征图上采样到与输出 特征图中最大分辨 率的尺寸 一致；权　利　要　求　书 1/3 页 2 CN 115187525 A 2然后将所有的特 征图沿通道方向按照像素位置拼接起 来； 将拼接后的特征图沿特征通道方向将每个像素点对应的特征向量做二范数归一化处 理。 5.根据权利要求4所述的基于知识蒸馏的无监督图像缺陷检测方法， 其特征在于， 所述 建立像素级缺陷检测模型集 合的方法包括： 将学生特征图集合中所有特征图谱的相同像素点对应的特征向量作为当前像素点的 特征集合； 分别对每 个像素点的特 征集合采用混合高斯模型建立特 征分布模型； 将所有像素点的特 征分布模型作为像素级缺陷检测模型集 合。 6.根据权利要求5所述的基于知识蒸馏的无监督图像缺陷检测方法， 其特征在于， 所述 利用所述学生模型建立所述图像的多尺度特 征图的方法包括： 利用学生模型提取用户终端发送的图像的多尺度特 征图； 将所述多尺度特 征图中的小分辨 率特征图上采样到与最大分辨 率的尺寸 一致； 将所有的特 征图沿特 征通道方向按照像素位置拼接起 来； 将拼接后的特征图沿特征通道方向将每个像素点对应的特征向量做二范数归一化处 理， 得到图像的多尺度特 征图。 7.根据权利要求6所述的基于知识蒸馏的无监督图像缺陷检测方法， 其特征在于， 所述 得到距离矩阵的方法包括： 分别将用户终端发送的图像的多尺度特征图的每个像素点的特征向量与像素级缺陷 检测模型集合中每个像素点对应的高斯分布模型计算相似度， 得到每个像素点的距离， 所 有像素点的距离组合 为一个距离矩阵； 将距离矩阵上采样到原 始输入图像的尺寸， 得到与输入图像尺寸 一致的距离矩阵； 采用滤波对距离矩阵进行平 滑处理， 得到所述的距离矩阵。 8.根据权利要求7所述的基于知识蒸馏的无监督图像缺陷检测方法， 其特征在于， 所述 判断用户终端发送的图像是否存在缺陷的方法包括： 若距离矩阵中某一个位置的值大于所述像素级缺陷阈值， 则图像对应的位置存在缺 陷， 反之无缺陷； 若距离矩阵中最大值大于所述的图像级缺陷 阈值， 则图像存在缺陷， 反 之无缺陷。 9.一种基于知识蒸馏的无监 督图像缺陷检测装置， 其特 征在于， 包括： 教师模型构建模块， 用于获取教师模型， 教师模型对学生模型提供有益于缺陷检测的 知识指导； 学生模型构建模块， 用于获取 学生模型， 学生模型提取图像的多尺度特 征图； 特征图提取模块， 用于通过学生模型构建无缺陷图像的多尺度特征集合， 得到学生特 征图集合； 缺陷检测模型构建模块， 用于通过 学生特征图集合建立像素级缺陷检测模型集 合； 接收模块， 用于 接收用户终端发送的图像、 像素级缺陷 阈值和图像级缺陷 阈值； 缺陷检测模块， 利用所述学生模型建立所述图像的多尺度特征图， 计算所述多尺度特 征图与所述像素级缺陷检测模型集合的距离， 得到距离矩阵， 通过距离矩阵与像素级缺陷 阈值和图像级缺陷 阈值之间的关系， 判断用户终端发送的图像是否存在缺陷。权　利　要　求　书 2/3 页 3 CN 115187525 A 3