(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 20221071479 9.5 (22)申请日 2022.06.23 (71)申请人 西南交通大 学 地址 610031 四川省成 都市金牛区二环路 北一段 (72)发明人 于龙　杨珂浩　高仕斌　张冬凯　 董文波　宋超　 (74)专利代理 机构 成都天嘉专利事务所(普通 合伙) 5121 1 专利代理师 青春 (51)Int.Cl. G06T 7/00(2017.01) G06V 10/774(2022.01) G06V 10/764(2022.01) G06V 10/82(2022.01)G06V 10/74(2022.01) G06T 7/11(2017.01) G06N 3/08(2006.01) G06N 3/04(2006.01) (54)发明名称 一种基于知识蒸馏的高铁绝缘子缺陷检测 方法 (57)摘要 本发明公开了一种基于知识蒸馏的高铁绝 缘子缺陷检测方法， 涉及计算机视觉图像识别技 术领域， 包 括以下步骤： S1、 输入包含绝缘子的4C 灰度图像； S2、 提取灰度图像中的绝缘子， 并对提 取的绝缘子图像进行切块， 得到绝缘子小块样 本； S3、 建立知识蒸馏教师网络， 使用正 常绝缘子 小块样本和同样大小的背景小块样本对教师网 络进行分类训练， 使其参数空间中包含绝缘子的 特征信息； S4、 建立通道剪枝后的知识蒸馏学生 网络， 并对教师网络和学生网络进行共同训练和 测试， 根据测试过程中教师网络和学生网络在面 对异常样 本时的中间层输出不同， 对缺陷绝缘子 小块样本进行判断； 根据缺陷判断结果建立缺陷 分割热力图， 并标注热力图中绝 缘子缺陷区域。 权利要求书3页 说明书11页 附图7页 CN 114998294 A 2022.09.02 CN 114998294 A 1.一种基于知识蒸馏的高铁绝 缘子缺陷检测方法， 其特 征在于， 包括以下步骤： S1、 输入包含绝缘子的4C灰度图像； S2、 提取灰度图像中的绝缘子， 并对提取的绝缘子图像进行切块， 得到绝缘子小块样 本； S3、 建立知识蒸馏教师网络， 使用正常绝缘子小块样本和同样大小的背景小块样本对 教师网络进行分类训练， 使其 参数空间中包 含绝缘子的特 征信息； S4、 建立通道剪枝后的知识蒸馏学生网络， 并对教师网络和学生网络进行共 同训练和 测试， 根据测试过程中教师网络和学生网络在面对异常样本时的中间层输出不同， 对缺陷 绝缘子小块样本进行判断； 根据缺陷判断结果建立缺陷分割 热力图， 并标注热力图中绝缘 子缺陷区域。 2.如权利要求1所述的高铁绝缘子缺陷检测方法， 其特征在于， 所述S2步骤中， 利用R ‑ YOLOv5s网络对绝缘子进行提取， 其预测框中包含180个角度类别信息； 绝缘子小块样本大 小为128*128像素。 3.如权利要求1所述的高铁绝缘子缺陷检测方法， 其特征在于， 所述S3步骤中， 使用 VGG‑16骨干网络， 去掉 其分类层， 作为知识蒸馏网络的教师网络 。 4.如权利要求1所述的高铁绝缘子缺陷检测方法， 其特征在于， 所述S4步骤包括共同训 练测试步骤、 打 分判断步骤、 小块热力图生成步骤和缺陷检测报告生成步骤； 所述共同训练测试步骤， 建立通道剪枝后的知识蒸馏学生网络， 并利用正常绝缘子小 块样本对教师网络和学生网络进 行共同训练， 训练完后 将每一绝缘子小块样本均加入教师 网络和学生网络中进行共同测试， 在测试过程中， 根据教师网络和学生网络在面对异常样 本时的中间层输出不同， 得到样本的总损失值； 所述打分判断步骤， 根据全体样本的总损 失值， 对每个测试的绝缘子小块样本进行打 分， 并根据打分结果输出绝缘子小块样本位置信息； 再根据打分结果和样本位置信息， 报告 正常绝缘子小块样本和缺陷绝 缘子小块样本的信息， 得到绝 缘子缺陷检测结果； 所述小块热力图生成步骤， 采用积分梯度法和平滑梯度法对教师网络和学生网络进行 梯度回传并生成小块热力图， 再对热力图进行噪声抑制； 所述缺陷检测报告生成步骤， 利用绝缘子小块样本的位置信 息和噪声抑制后的小块热 力图， 将小块热力图组合成为完整 热力图， 并标注热力图中绝缘子缺陷区域， 再根据完整 热 力图， 以及绝 缘子缺陷检测结果， 生成绝 缘子缺陷检测报告。 5.如权利要求4所述的高铁绝缘子缺陷检测方法， 其特征在于， 所述共同训练测试步骤 中， 共同训练时， 对学生网络进行梯度更新， 对教师网络不进行梯度更新； 使用通道剪枝后的VGG ‑16作为知识蒸馏算法的学生网络， 除每个卷积模块的最后一层 外， 将其他卷积层的通道数均压缩为16； 训练所使用的损失函数为 ，权　利　要　求　书 1/3 页 2 CN 114998294 A 2其中， 为总损失函数， 为距离损失函数， 为余弦相似度损失函数， 为调节两个 损失函数权重的超参数， 为第Li层的神经元数量， 为Tn在第Li层的输出特征， 为 Sn在第Li层的输出特征， 代表Transpose,为向量的转置运算， i代表遍历所有的待提取 中间层， j代 表遍历一个层中的所有通道数。 6.如权利要求4所述的高铁绝缘子缺陷检测方法， 其特征在于， 所述打分判断步骤包括 以下步骤： 计算全体绝缘子小块样本的总损 失值， 根据全体绝缘子小块样本的总损 失值， 对每个 绝缘子小块样本进行缺陷打 分； 将缺陷得分与阈值比较， 判断样本为 缺陷绝缘子小块样本还是正常绝 缘子小块样本； 根据判断结果， 输出缺陷绝 缘子小块样本和正常绝 缘子小块样本的位置信息； 根据绝缘子小块样本得分， 以及绝缘子小块样本位置信息， 报告正常绝缘子小块样本 和缺陷绝 缘子小块样本的信息， 得到绝 缘子缺陷检测结果。 7.如权利要求6所述的高铁绝缘子缺陷检测方法， 其特征在于， 所述打分判断步骤中， 缺陷得分为： 其中， 为第i个样本的缺陷得分， 为第i个样本的总损失， median函数为取所有样本 总损失值的中位数； 阈值比较 中， 以1为阈值， 缺陷得分大于1的判断为缺陷绝缘子小块样本， 缺陷得分小于 1的判断为 正常绝缘子小块样本 。 8.如权利要求4所述的高铁绝缘子缺陷检测方法， 其特征在于， 所述小块热力图生成步 骤包括以下步骤： 采用采用积分梯度法和平 滑梯度法， 对教师网络与学生网络进行梯度回传； 利用教师网络与学生网络梯度回传中的反向转 播存储的梯度信息， 生成小块热力图； 在生成的小块热力图中， 设置阈值对噪声 进行抑制。 9.如权利要求8所述的高铁绝缘子缺陷检测方法， 其特征在于， 所述小块热力图生成步 骤中， 所述小块热力图为：权　利　要　求　书 2/3 页 3 CN 114998294 A 3