standard library
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210159137.6 (22)申请日 2022.02.21 (71)申请人 北京百度网讯科技有限公司 地址 100085 北京市海淀区上地十街10号 百度大厦2层 (72)发明人 李硕 陈禹燊 韩光耀  (74)专利代理 机构 北京同立钧成知识产权代理 有限公司 1 1205 专利代理师 朱颖 臧建明 (51)Int.Cl. G06F 16/35(2019.01) G06F 40/295(2020.01) G06F 40/30(2020.01) G06K 9/62(2022.01) (54)发明名称 文档处理、 识别模 型训练方法、 装置、 设备及 存储介质 (57)摘要 本公开提供一种文档处理、 识别模 型训练方 法、 装置、 设备及存储介质, 涉及数据处理技术领 域, 尤其涉及深度学习、 自然语言处理、 深度搜索 技术领域。 其中, 文档处理方法包括: 对获取到的 待处理文档进行处理, 得到待处理文档中的识别 对象集合, 根据该识别对象集合中对象类别包括 的识别对象的识别得分, 确定待处理文档的识别 结果。 识别模型训练方法包括: 将获取到的文本 样本集的文本样本输入到预设网络, 得到该文本 样本的对象识别结果, 进而结合该文本样本携带 的对象标注信息, 调整预设网络的参数, 得到对 象识别模型。 该技术方案可以准确的识别出文档 中的对象类别以及对象类别对应的识别对象, 提 高了文档的信息抽取效果。 权利要求书5页 说明书19页 附图8页 CN 114547301 A 2022.05.27 CN 114547301 A 1.一种文档处 理方法, 包括: 获取待处 理文档; 对所述待处理文档进行处理, 得到所述待处理文档 中的识别对象集合, 所述识别对象 集合包括: 对象类别、 所述对象类别包括的识别对象以及所述识别对象的识别得分; 根据所述识别对象集合中所述对象类别包括的识别对象以及所述识别对象的识别得 分, 确定所述待处 理文档的识别结果。 2.根据权利要求1所述的方法, 其中, 所述对所述待处理文档进行处理, 得到所述待处 理文档中的识别对象集 合, 包括: 对所述待处 理文档对应的文本序列进行拆分, 得到 至少一条待处 理文本; 将所述至少一条待处理文本输入到预先训练 的对象识别模型, 确定所述待处理文档中 的识别对象集合, 所述对象识别模型的训练原理包括: 基于转换器的双向编码表征BERT和 全局指针。 3.根据权利要求2所述的方法, 其中, 所述对所述待处理文档对应的文本序列进行拆 分, 得到至少一条待处 理文本, 包括: 基于预置的滑窗长度和滑动步长, 对所述待处理文档对应的文本序列进行拆分, 得到 至少一条待处 理文本, 所述滑窗长度大于或等于所述滑动步长 。 4.根据权利要求1至3任一项所述的方法, 其中, 所述根据所述识别对象集合中所述对 象类别包括的识别对 象以及所述识别对 象的识别得分, 确定所述待处理文档的识别结果, 包括: 确定所述对象类别包括的识别对象个数; 响应于所述对象类别包括至少两个识别对象, 根据所述至少两个识别对象的识别得 分, 确定出 所述至少两个识别对象中目标识别对象; 确定所述待处 理文档的识别结果包括所述对象类别中的所述目标识别对象。 5.根据权利要求1至4任一项所述的方法, 还 包括: 确定所述识别结果包括的识别对象中是否存在整体对象, 所述整体对象包括具有相同 上下文语境的至少两个子对象; 响应于所述识别对象中存在整体对象, 对所述整体对象进行对象切分, 得到所述待处 理文档的最终识别结果。 6.根据权利要求1至5任一项所述的方法, 在对所述待处理文档进行处理, 得到所述待 处理文档中的识别对象集 合之前, 还 包括: 确定所述待处 理文档是否为纯文本文档; 响应于所述待处理文档为非纯文本文档, 对所述待处理文档进行解析, 得到所述待处 理文档对应的纯文本文档; 对所述纯文本文档进行处 理, 得到所述待处 理文档对应的文本序列。 7.一种识别模型训练方法, 包括: 获取文本样本集, 所述文本样本集中的文本样本携带有对象标注信息; 将所述文本样本集中的文本样本输入到预设网络, 得到所述文本样本的对象识别结 果, 所述对象识别结果中对象识别类别对应的目标识别对象是基于识别得分确定的; 根据所述文本样本携带的对象标注信 息和所述文本样本的对象识别结果, 调整所述预权 利 要 求 书 1/5 页 2 CN 114547301 A 2设网络的参数, 得到对象识别模型。 8.根据权利要求7所述的方法, 所述预设网络包括: 基于转换器的双向编码表征BERT部 分和全局指针部分; 所述将所述文本样本集中的文本样本输入到预设网络, 得到所述文本样本的对象识别 结果, 包括: 利用所述基于转换器的双向编码表征BERT部分对所述文本样本集中的文本样本进行 对象识别, 确定出 所述文本样本包括的所有识别对象; 基于所述全局指针部分对所述文本样本包括的所有识别对象进行分类, 确定出所述文 本样本包括的对象识别类别以及所述对象识别类别包括的至少一个识别对象; 根据所述对象识别类别中所述至少一个识别对象的识别得分, 确定所述对象识别类别 对应的目标识别对象。 9.根据权利要求7或8所述的方法, 其中, 所述对象标注信 息包括: 对象标注类别和所述 对象标注类别对应的标注对 象, 所述对 象识别结果包括: 对 象识别类别和所述对 象识别类 别对应的目标识别对象; 所述根据 所述文本样本携带的对象标注信 息和所述文本样本的对象识别结果, 调 整所 述预设网络的参数, 得到对象识别模型, 包括: 根据所述文本样本携带的所述对象标注类别和所述文本样本的对象识别类别, 确定所 述文本样本的类别识别结果; 根据所述文本样本集中至少两条文本样本的类别识别结果, 确定所述预设网络的类别 识别准确度; 响应于所述预设网络的类别识别准确度大于或等于类别准确度阈值, 根据所述对象标 注类别对应的标注对象和所述对象识别类别对应的目标识别对象, 确定所述文本样本的对 象识别结果; 根据所述文本样本集中至少两条文本样本的对象识别结果, 确定所述预设网络的对象 识别准确度; 响应于所述预设网络的类别识别准确度小于类别准确度阈值和/或所述预设网络的对 象识别准确度小于对 象准确度阈值, 调整所述预设网络的参数, 直到所述预设网络的类别 识别准确度大于或等于类别准确度阈值且所述预设网络的对 象识别准确度大于或等于对 象准确度阈值, 得到对象识别模型。 10.根据权利要求7至9任一项所述的方法, 其中, 所述获取文本样本集, 包括: 获取文档样本集; 确定所述文档样本集中的文档样本是否为纯文本文档; 响应于所述文档样本集中存在非纯文本文档, 将所述文档样本集中的非纯文本文档转 换为纯文本文档, 得到文本文档样本集; 对所述文本文档样本集中的纯文本文档进行序列化, 得到所述纯文本文档对应的文本 序列; 获取所述纯文本文档对应文本序列的对象标注信息, 得到所述文本样本集, 所述对象 标注信息是基于对象上 下文语境标注的。 11.一种文档处 理装置, 包括:权 利 要 求 书 2/5 页 3 CN 114547301 A 3

PDF文档 专利 文档处理、识别模型训练方法、装置、设备及存储介质

文档预览
中文文档 33 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共33页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 文档处理、识别模型训练方法、装置、设备及存储介质 第 1 页 专利 文档处理、识别模型训练方法、装置、设备及存储介质 第 2 页 专利 文档处理、识别模型训练方法、装置、设备及存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-02-18 22:33:31上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。