(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210746633.1 (22)申请日 2022.06.28 (30)优先权数据 63/266,461 202 2.01.06 US (71)申请人 鸿海精密工业股份有限公司 地址 中国台湾新北市土城区中山路6 6号 (72)发明人 栗永徽　李庭瑄　詹念怡　李维斌　 林彦承　 (74)专利代理 机构 北京派特恩知识产权代理有 限公司 1 1270 专利代理师 康艳青　王琳 (51)Int.Cl. G06V 10/82(2022.01) G06V 10/40(2022.01) G06V 10/74(2022.01)G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 模型产生装置及方法 (57)摘要 一种模型产生装置及方法。 所述装置接收多 个样本影像。 所述装置产生对应所述等样本影像 的多个对抗样本。 所述装置将所述等样本影像及 所述等对抗样本分别输入至自监督神经网络中 的第一编码器及第二编码器， 以产生多个第一特 征撷取及 多个第二特征撷取。 所述装置计算所述 等第一特征撷取及所述等第二特征撷取各者的 相似度， 以训练所述自监督神经网络。 所述装置 基于所述第一编码器及多个标注数据， 产生任务 模型。 本发明所提供的模型产生技术， 可快速产 生可抵抗对抗式攻击的任务模型。 权利要求书3页 说明书9页 附图4页 CN 115082761 A 2022.09.20 CN 115082761 A 1.一种模型产生装置， 其特 征在于， 包 含： 存储器， 用以存 储自监督神经网络； 收发接口； 以及 处理器， 电性连接 至所述存 储器及所述收发接口， 用以执 行以下运作： 通过所述收发接口接收多个样本影 像； 产生对应所述 等样本影 像的多个对抗样本； 将所述等样本影像及所述等对抗样本分别输入至所述自监督神经网络中的第一编码 器及第二编码器， 以产生多个第一特征撷取及多个第二特征撷取， 其中所述等第一特征撷 取由所述第一编码器产生， 所述 等第二特 征撷取由所述第二编码器产生； 计算所述等第 一特征撷取及所述等第 二特征撷取各者的相似度， 以训练所述自监督神 经网络； 以及 基于所述第一编码器及多个标注数据， 产生任务模型。 2.根据权利要求1所述的模型产生装置， 其特征在于， 所述自监督神经网络还包含线上 神经网络及目标神经网络， 所述第一编码器对应至所述线上神经网络， 且所述第二编码器 对应至所述目标神经网络 。 3.根据权利要求1所述的模型产生装置， 其特 征在于， 所述处 理器还执 行以下运作： 分类所述等样本影像及所述等对抗样本， 以产生多个对应训练集， 其中所述等对应训 练集各者包含所述等样本影像中的第一样本影像及对应至所述第一样本影像的第一对抗 样本。 4.根据权利要求3所述的模型产生装置， 其特 征在于， 所述处 理器还执 行以下运作： 针对所述 等对应训练集各者， 执 行以下运作： 将所述第一样本影像输入至所述第 一编码器， 以产生对应所述第 一样本影像的所述第 一特征撷取； 以及 将所述第一对抗样本输入至所述第 二编码器， 以产生对应所述第 一对抗样本的所述第 二特征撷取。 5.根据权利要求 4所述的模型产生装置， 其特 征在于， 所述处 理器还执 行以下运作： 针对所述 等对应训练集各者， 执 行以下运作： 计算对应所述第一样本影像的所述第一特征撷取及对应所述第一对抗样本的所述第 二特征撷取的所述相似度， 以训练所述自监 督神经网络 。 6.根据权利要求5所述的模型产生装置， 其特 征在于， 所述处 理器还执 行以下运作： 针对所述 等对应训练集各者， 执 行以下运作： 基于所述第一编码器所对应的指数移动平均， 更新所述第二编码器。 7.根据权利要求1所述的模型产生装置， 其特 征在于， 所述处 理器还执 行以下运作： 基于多个损失函数， 计算所述等第 一特征撷取及所述等第 二特征撷取各者的所述相似 度； 以及 基于所述 等损失函数 所对应的所述相似度， 更新所述第一编码器。 8.根据权利要求1所述的模型产生装置， 其特 征在于， 所述处 理器还执 行以下运作： 串接至少一新增层于所述第一编码器之后， 其中所述至少一 新增层对应至下游任务； 将所述等标注数据输入至所述第 一编码器及所述至少一新增层， 以微调所述至少一新权　利　要　求　书 1/3 页 2 CN 115082761 A 2增层； 以及 基于所述第 一编码器及微调后的所述至少一新增层， 产生对应所述下游任务的所述任 务模型。 9.一种模型产生方法， 其特征在于， 用于电子装置， 所述电子装置包含存储器、 收发接 口及处理器， 所述存储器用以存储自监督神经网络， 所述模型产生方法由所述处理器执行 且包含下列步骤： 通过所述收发接口接收多个样本影 像； 产生对应所述 等样本影 像的多个对抗样本； 将所述等样本影像及所述等对抗样本分别输入至所述自监督神经网络中的第一编码 器及第二编码器， 以产生多个第一特征撷取及多个第二特征撷取， 其中所述等第一特征撷 取由所述第一编码器产生， 所述 等第二特 征撷取由所述第二编码器产生； 计算所述等第 一特征撷取及所述等第 二特征撷取各者的相似度， 以训练所述自监督神 经网络； 以及 基于所述第一编码器及多个标注数据， 产生任务模型。 10.根据权利要求9所述的模型产生方法， 其特征在于， 所述自监督神经网络还包含线 上神经网络及目标神经网络， 所述第一编码器对应至所述线上神经网络， 且所述第二编码 器对应至所述目标神经网络 。 11.根据权利要求9所述的模型产生方法， 其特 征在于， 还 包含下列步骤： 分类所述等样本影像及所述等对抗样本， 以产生多个对应训练集， 其中所述等对应训 练集各者包含所述等样本影像中的第一样本影像及对应至所述第一样本影像的第一对抗 样本。 12.根据权利要求1 1所述的模型产生方法， 其特 征在于， 还 包含下列步骤： 针对所述 等对应训练集各者， 执 行以下步骤： 将所述第一样本影像输入至所述第 一编码器， 以产生对应所述第 一样本影像的所述第 一特征撷取； 以及 将所述第一对抗样本输入至所述第 二编码器， 以产生对应所述第 一对抗样本的所述第 二特征撷取。 13.根据权利要求12所述的模型产生方法， 其特 征在于， 还 包含下列步骤： 针对所述 等对应训练集各者， 执 行以下步骤： 计算对应所述第一样本影像的所述第一特征撷取及对应所述第一对抗样本的所述第 二特征撷取的所述相似度， 以训练所述自监 督神经网络 。 14.根据权利要求13所述的模型产生方法， 其特 征在于， 还 包含下列步骤： 针对所述 等对应训练集各者， 执 行以下运作： 基于所述第一编码器所对应的指数移动平均， 更新所述第二编码器。 15.根据权利要求9所述的模型产生方法， 其特 征在于， 还 包含下列步骤： 基于多个损失函数， 计算所述等第 一特征撷取及所述等第 二特征撷取各者的所述相似 度； 以及 基于所述 等损失函数 所对应的所述相似度， 更新所述第一编码器。 16.根据权利要求15所述的模型产生方法， 其特 征在于， 还 包含下列步骤：权　利　要　求　书 2/3 页 3 CN 115082761 A 3