standard library
(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210042292.X (22)申请日 2022.01.14 (71)申请人 平安科技 (深圳) 有限公司 地址 518033 广东省深圳市福田区福田街 道福安社区益田路5033号平 安金融中 心23楼 (72)发明人 金晓辉 阮晓雯  (74)专利代理 机构 北京鸿元知识产权代理有限 公司 11327 代理人 王守梅 袁文婷 (51)Int.Cl. G06F 40/295(2020.01) G06K 9/62(2022.01) G06F 40/30(2020.01) (54)发明名称 实体样本的抽取方法、 系统及存 储介质 (57)摘要 本发明涉及人工智能, 提供一种实体抽取样 本的数据增强方法, 通过聚类的方法对现有的大 批量人工标注进行有效性判断, 对置信度与簇中 心相差较大的样本进行剔除, 保证用于模型训练 数据的高质量。 同时被剔除的样 本通过与存量样 本进行相似度比对判定, 进而对相似度高的样本 进行召回, 生成了有限的标注标签集合, 完成了 硬性匹配过滤, 保证标注数据质检的有序进行; 实现了大量减少人力投入, 适用于大量数据集的 NER实体识别场景的技 术效果。 权利要求书2页 说明书11页 附图2页 CN 114372469 A 2022.04.19 CN 114372469 A 1.一种实体样本的抽取 方法, 其特 征在于, 方法包括: 对实体样本的标签数据进行分类, 按照所分的标签类别获取实体样本标注的全量标签 数据; 将所获取的全量标签数据按照标签类别分别进行分词、 编码预处理, 以获取各标签类 别的标签矩阵; 对各标签类别的所述标签矩阵进行主成分分析, 以获取所述各类标签类别对应的主要 特征; 利用各类标签类别对应的主要特征分别对各标签类别的标签数据进行筛选, 以筛选符 合预设标准的标签数据作为高置信度标注; 将所述各标签类别的高置信度标注集合生成高置信度标签池, 利用所述高置信度 标签 池进行样本抽取。 2.如权利要求1所述的实体样本的抽取方法, 其特征在于, 利用各类标签类别对应的主 要特征分别对各标签类别的标签数据进行筛选, 筛选符合预设标准的标签数据作为高置信 度标注的方法, 包括: 将所述标签 类别的一个主 要特征作为一个簇类; 获取每一个簇类中的标签数据与所对应的主要特征间的距离并形成距离集合; 并, 利 用所述距离集 合确定距离异常阈值; 筛选与对应的主要特征间的距离小于所述距离异常阈值的标签数据作为高置信度标 注。 3.如权利要求2所述的实体样本的抽取方法, 其特征在于, 筛选与对应的主要特征间的 距离大于距离异常阈值的标签数据作为低置信度标注。 4.如权利要求3所述的实体样本的抽取方法, 其特征在于, 对各标签类别的所述低置信 度标注集合中的标签数据进行筛选, 筛选相似度大于预设相似度阈值的标签数据归入高置 信度标签池; 将筛 选后的低置信度标注集 合中的标签数据生成异常标签池。 5.如权利要求2所述的实体抽取样本的数据增强方法, 其特征在于, 获取每一个簇类中 的标签数据与所对应的主要特征间的距离的方法, 包括: 通过计算每一个实体标签的向量 在主成分上的投影距离, 获得每一个簇类中的标签数据与所对应的主 要特征间的距离 。 6.如权利要求4所述的实体样本的抽取方法, 其特征在于, 筛选相似度 大于预设相似度 阈值的标签数据归 入高置信度标签池的方法包括: 对各标签类别的所述低置信度标注集合中的标签数据分别进行基于cosine值的语义 相似度计算和字符相似度计算; 其中, 利用基于cosine值的语义相似度计算获得cosine向 量值, 利用字符相似度计算获得字符相似度值; 针对语义相似度及字符相似度分别设置50%的权重, 利用cosine向量值和字符相似度 值加权得到整体的相似度; 筛选整体相似度值大于相似度阈值的标签数据; 则, 将所述标签数据归 入高置信度标签池。 7.如权利要求1所述的实体样本的抽取方法, 其特征在于, 将所获取的全量标签数据按 照标签类别分别进行分词、 编码预处 理, 以获取 各标签类别的标签矩阵的方法, 包括: 将所获取的全量标签数据按照标签 类别分别进行分词;权 利 要 求 书 1/2 页 2 CN 114372469 A 2获取所述分词后的全量数据标签中包 含的字符, 并将所述字符构成文字集 合; 对所述文字集合在词句段篇等维度分别 进行独热编码, 并进行padding操作, 以在词句 段篇四个级别上分别构造对应的矩阵, 获得词矩阵、 句矩阵、 段矩阵以及篇矩阵。 8.一种实体样本的抽取系统, 其特 征在于, 所述系统包括: 全量数据标签获取单元, 用于对实体样本的标签数据进行分类, 按照所分的标签类别 获取实体样本标注的全量标签数据; 标签矩阵获取单元, 用于将所获取的全量标签数据按照标签类别分别进行分词、 编码 预处理, 以获取 各标签类别的标签矩阵; 主要特征获取单元, 用于对各标签类别的所述标签矩阵进行主成分分析, 以获取所述 各类标签 类别对应的主 要特征; 高置信度标签池获取单元, 用于利用各类标签类别对应的主要特征分别对各标签类别 的标签数据进行筛选, 以筛选符合预设标准的标签数据作为高置信度标注; 将所述各标签 类别的高置信度标注集 合生成高置信度标签池, 利用所述高置信度标签池进行样本抽取。 9.一种电子设备, 其特 征在于, 所述电子设备包括: 至少一个处 理器; 以及, 与所述至少一个处 理器通信连接的存 储器; 其中, 所述存储器存储有可被所述至少一个处理器执行的指令, 所述指令被所述至少一个处 理器执行, 以使所述至少一个处理器能够执行如权利要求 1至7中任一所述的实体样本的抽 取方法中的步骤。 10.一种计算机可读存储介质, 存储有计算机程序, 其特征在于, 所述计算机程序被处 理器执行时实现如权利要求1至7中任一所述的实体样本的抽取 方法。权 利 要 求 书 2/2 页 3 CN 114372469 A 3

PDF文档 专利 实体样本的抽取方法、系统及存储介质

文档预览
中文文档 16 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共16页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 实体样本的抽取方法、系统及存储介质 第 1 页 专利 实体样本的抽取方法、系统及存储介质 第 2 页 专利 实体样本的抽取方法、系统及存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-02-18 22:33:54上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。