(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210003431.8 (22)申请日 2022.01.04 (71)申请人 马上消费金融股份有限公司 地址 401120 重庆市渝北区黄山大道中段 52号渝兴广场B2栋4至8楼 (72)发明人 李长林　权佳成　曹磊　 (74)专利代理 机构 北京国昊天诚知识产权代理 有限公司 1 1315 代理人 马瑞 (51)Int.Cl. G06F 40/30(2020.01) G06F 40/35(2020.01) G06F 40/295(2020.01) G06F 40/289(2020.01) G06F 40/216(2020.01) (54)发明名称 敏感词检测方法、 装置、 电子设备及存储介 质 (57)摘要 本申请提供一种敏感词检测方法、 装置、 电 子设备及存储介质， 包括： 在待检测文本包括预 设敏感词库中敏感词的情况下， 获取待检测文本 中的第一敏感词； 根据待检测文本的文本向量与 第一敏感词所对应的第一样本向量确定第一语 义相关度； 根据待检测文本的文本向量与第一敏 感词所对应的第二样本向量确定第二语义相关 度； 若第一语义相关度大于第二语义相关度， 则 将第一敏感词确定为与预设场景相关联的目标 敏感词； 第一样本向量为包含有第一敏感词的第 一样本文本的平均向量， 第二样 本向量为包含有 第一敏感词的第二样本文本的平均向量。 本申请 提高了与预设场景相关联的敏感词的检测准确 率。 权利要求书2页 说明书13页 附图3页 CN 114417881 A 2022.04.29 CN 114417881 A 1.一种敏感词检测方法， 其特 征在于， 包括： 在待检测文本包括预设敏感词库中敏感词的情况下， 获取所述待检测文本 中的第一敏 感词， 所述第一敏感词为所述预设敏感词库中的敏感词； 根据所述待检测文本的文本向量与所述第一敏感词所对应的第一样本向量确定第一 语义相关度； 根据所述待检测文本的文本向量与所述第一敏感词所对应的第二样本向量确定第二 语义相关度； 若所述第一语义相关度 大于所述第 二语义相关度， 则将所述第 一敏感词确定为与 预设 场景相关联的目标 敏感词； 其中， 所述第一样本向量为包含所述第一敏感词的第一样本文本的平均向量， 所述第 二样本向量 为包含所述第一敏感词的第二样本文本的平均向量。 2.根据权利要求1所述的敏感词检测方法， 其特征在于， 所述根据 所述待检测文本的文 本向量与所述第一敏感词所对应的第一样本向量确定第一语义相关度之前， 还 包括： 获取样本文本集， 其中所述样本文本集包括样本文本和所述样本文本对应的样本标 签， 所述样本标签指示样本文本的文本语义与所述预设场景相关联或无关联； 根据所述第一敏感词从所述样本文本集中确定多个所述第一样本文本和多个所述第 二样本文本； 计算每个所述第一样本文本的第一文本向量以及每个所述第二样本文本的第二文本 向量； 计算所有所述第一文本向量的向量平均值， 得到所述第一样本向量， 及计算所有所述 第二文本向量的向量平均值， 得到所述第二样本向量。 3.根据权利要求2所述的敏感词检测方法， 其特征在于， 所述根据 所述第一敏感词从所 述样本文本集中确定多个所述第一样本文本和多个所述第二样本文本， 包括： 从所述样本文本集中筛 选得到包 含所述第一敏感词的目标样本文本； 根据所述目标样本文本所对应的样本标签， 将所述目标样本文本 中与所述预设场景相 关联的目标样本文本确定为所述第一样本文本， 将所述目标样本文本中与所述预设场景无 关联的目标样本文本确定为第二样本文本 。 4.根据权利要求2所述的敏感词检测方法， 其特征在于， 所述计算每个所述第 一样本文 本的第一文本向量， 包括： 针对任意一个第一样本文本， 通过下述公式计算所述第一样本文本中每个分词的权 重， 并根据每 个分词的权 重计算所述第一样本文本的第一文本向量； 其中， Ci表示所述第一样本文本中第i个分词的权重， LOCi表示第i个分词在所述第一样 本文本中所有分词中的位置， LOCkeyword表示所述第一敏感词在所述第一样本文本中所有分 词中的位置， NUMi表示所有第一样本文本中所包含的所述第i个分词的数量， l表示所有第 一样本文本中所包 含的所有分词的数量。 5.根据权利要求1所述的敏感词检测方法， 其特征在于， 在所述获取所述待检测文本中 的第一敏感词之后， 还 包括：权　利　要　求　书 1/2 页 2 CN 114417881 A 2将所述待检测文本输入至预先训练得到的敏感词检测模型中， 得到所述敏感词检测模 型输出的检测结果， 其中所述检测结果指示所述待检测文本是否包括与所述预设场景相关 联的第二敏感词； 在所述检测结果指示所述待检测文本不包括所述第 二敏感词的情况下， 进入所述根据 所述待检测文本的文本 向量与所述第一敏感词 所对应的第一样本 向量确定第一语义相关 度的步骤。 6.根据权利要求5所述的敏感词检测方法， 其特征在于， 所述敏感词检测模型为基于样 本文本集训练得到， 其中所述样本文本集包括样本文本和所述样本文本对应的样本标签， 所述样本标签指示样本文本的文本语义与所述预设场景相关联或无关联。 7.根据权利要求5所述的敏感词检测方法， 其特征在于， 所述得到所述敏感词检测模型 输出的检测结果之后， 还 包括： 在所述检测结果指示所述待检测文本包括所述第 二敏感词的情况下， 获取所述第 二敏 感词以及所述预设敏感词库中与所述第二敏感词相匹配的第三敏感词； 若所述第二敏感词的字符个数与 所述第三敏感词的字符个数不同， 则将所述第 二敏感 词修正为所述第三敏感词。 8.一种敏感词检测装置， 其特 征在于， 包括： 获取模块， 用于在待检测文本包括预设敏感词库中敏感词的情况下， 获取所述待检测 文本中的第一敏感词， 所述第一敏感词为所述预设敏感词库中的敏感词； 计算模块， 用于根据 所述待检测文本的文本向量与所述第 一敏感词所对应的第 一样本 向量确定第一语义相关度， 并根据所述待检测文本的文本向量与所述第一敏感词所对应的 第二样本向量确定第二语义相关度； 确定模块， 用于若所述第一语义相关度大于所述第二语义相关度， 则将所述第一敏感 词确定为与预设场景相关联的目标 敏感词； 其中， 所述第一样本向量为包含有所述第一敏感词的第一样本文本的平均向量， 所述 第二样本向量 为包含有所述第一敏感词的第二样本文本的平均向量。 9.一种电子设备， 其特征在于， 包括处理器， 存储器及存储在所述存储器上并可在所述 处理器上运行的程序或指 令， 所述程序或指 令被所述处理器执行时实现如权利要求 1至7任 一项所述的敏感词检测方法的步骤。 10.一种可读存储介质， 其特征在于， 所述可读存储介质上存储程序或指令， 所述程序 或指令被处 理器执行时实现如权利要求1至7任一项所述的敏感词检测方法的步骤。权　利　要　求　书 2/2 页 3 CN 114417881 A 3