文库搜索
切换导航
首页
频道
联系我们
国家标准目录
国际ISO标准目录
行业标准目录
地方标准目录
首页
联系我们
国家标准目录
国际ISO标准目录
行业标准目录
地方标准目录
批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211201108.8 (22)申请日 2022.09.28 (71)申请人 平安科技 (深圳) 有限公司 地址 518000 广东省深圳市福田区福田街 道福安社区益田路5033号平 安金融中 心23楼 (72)发明人 欧阳升 王健宗 (74)专利代理 机构 广州嘉权专利商标事务所有 限公司 4 4205 专利代理师 谭晓欣 (51)Int.Cl. G06F 16/35(2019.01) G06F 40/216(2020.01) G06N 20/00(2019.01) (54)发明名称 文本语句分类方法和分类装置、 电子 设备及 存储介质 (57)摘要 本申请实施例提供了一种文本语句分类方 法和分类装置、 电子设备及存储介质, 属于人工 智能技术领域。 该方法包括: 将训练样本集的每 个样本对数据输入至初始文本语句分类模型, 分 别对样本语句进行特征提取, 得到第一文本特征 和第二文本特征; 对第一文本特征进行特征约束 以更新第一文本特征; 对第一文本特征进行文本 分类处理以得到多个样本预测概率值; 对多个样 本预测概率值进行数值比较以确定目标样本标 签; 根据正样本标签和目标样 本标签对初始文本 语句分类模 型的模型参数进行调整, 以得到目标 文本语句分类模 型; 通过目标文本语句分类模型 对获取的初始文本语句进行分类以得到目标类 别。 本申请实施例能够提高对文本语句分类的准 确性。 权利要求书3页 说明书15页 附图4页 CN 115510232 A 2022.12.23 CN 115510232 A 1.一种文本语句分类方法, 其特 征在于, 所述方法包括: 获取训练样本集, 所述训练样本集包括多个样本对数据, 每个所述样本对数据包括正 样本语句、 所述正样本语句对应的正样本标签、 负样本语句和所述负样本语句对应的负样 本标签; 获取初始文本语句分类模型, 所述初始文本语句分类模型包括预训练子模型、 特征约 束子模型和文本分类子模型; 将每个所述样本对数据的所述正样本语句和所述负样本语句输入至所述初始文本语 句分类模型, 通过所述预训练子模型分别对所述正样本语句和所述负样本语句进 行特征提 取, 得到所述 正样本语句的第一文本特 征和所述负 样本语句的第二文本特 征; 通过所述特征约束子模型和所述第 二文本特征对所述第 一文本特征进行特征约束, 以 更新所述第一文本特 征; 通过所述文本分类子模型对所述第 一文本特征进行文本分类处理, 得到所述正样本语 句属于每 个类别标签的样本预测概 率值; 对所述正样本语句的多个所述样本预测概率值进行数值比较, 确定所述正样本语句的 目标样本标签; 根据所述正样本语句的所述正样本标签和所述目标样本标签对所述初始文本语句分 类模型的模型参数进 行调整, 并基于所述训练样本集 继续训练调整后的所述初始文本语句 分类模型, 直至所述初始文本语句分类模型 的模型损失值满足预设训练结束条件, 以得到 目标文本语句分类模型; 获取待分类的初始文本语句, 通过所述目标文本语句分类模型对所述初始文本语句进 行分类, 得到目标类别。 2.根据权利要求1所述的方法, 其特征在于, 在所述通过所述文本分类子模型对所述第 一文本特征进 行文本分类处理, 得到所述正样本语句属于每个类别标签的样本预测概率值 之后, 所述方法还 包括: 通过所述特征约束子模型对所述第一文本特征、 所述第二文本特征、 所述正样本标签 和所述负 样本标签进行 特征约束计算, 得到对比损失值; 根据所述 正样本标签和所述样本预测概 率值得到交叉熵损失值; 根据所述对比损失值和所述交叉熵损失值得到模型损失值。 3.根据权利要求2所述的方法, 其特征在于, 所述预训练子模型包括特征编码处理和自 注意力处理, 所述将 每个所述样本对数据的所述正样本语句和所述负样本语句输入至所述 初始文本语句分类模型, 通过所述预训练子模型分别对所述正样本语句和所述负样本语句 进行特征提取, 得到所述正样本语句的第一文本特征和所述负样本语句的第二文本特征, 包括: 将每个所述样本对数据的所述正样本语句和所述负样本语句输入至所述初始文本语 句分类模型; 分别对所述正样本语句中的每个文本字和所述负样本语句中的每个文本字进行所述 特征编码处理, 得到所述正样本语句对应的正样本字特征和所述负样本语句对应的负样本 字特征; 分别对全部所述正样本字特征和全部所述负样本字特征进行所述自注意力处理, 得到权 利 要 求 书 1/3 页 2 CN 115510232 A 2所述正样本语句的第一文本特 征和所述负 样本语句的第二文本特 征。 4.根据权利要求3所述的方法, 其特征在于, 在所述将每个所述样本对数据的所述正样 本语句和所述负 样本语句输入至所述初始文本语句分类模型之前, 所述方法还 包括: 根据预设的文本长度阈值分别对所述正样本语句和所述负样本语句进行长度比较, 当 所述正样本语句的文本长度小于所述文本长度阈值, 根据所述文本长度阈值对所述正样本 语句进行补零操作, 并更新所述正样本语句, 直至所述正样本语句的文本长度等于所述文 本长度阈值; 当所述负样本语句的文本长度小于所述文本长度阈值, 根据所述文本长度阈值对所述 负样本语句进行补零操作, 并更新所述负样本语句, 直至所述负样本语句的文本长度等于 所述文本 长度阈值。 5.根据权利要求2所述的方法, 其特征在于, 所述通过所述特征约束子模型对所述第 一 文本特征、 所述第二文本特征、 所述正样本标签和所述负样本标签进 行特征约束计算, 得到 对比损失值, 包括: 根据预设的指示函数对所述正样本标签和所述负样本标签进行标签比较, 确定对比系 数; 根据所述第一文本特征、 所述第二文本特征和所述对比系数进行特征约束计算, 得到 对比损失值。 6.根据权利要求2至5任一项所述的方法, 其特征在于, 所述根据所述正样本标签和所 述样本预测概 率值得到交叉熵损失值, 包括: 获取所述正样本语句的文本 字数; 根据预设的交叉熵损失函数对所述文本字数、 所述正样本标签和所述样本预测概率值 进行计算, 得到交叉熵损失值。 7.一种文本语句分类装置, 其特 征在于, 所述装置包括: 样本集获取模块, 用于获取训练样本集, 所述训练样本集包括多个样本对数据, 每个所 述样本对数据包括正样本语句、 所述正样本语句对应的正样本标签、 负样本语句和所述负 样本语句对应的负 样本标签; 初始模型获取模块, 用于获取初始文本语句分类模型, 所述初始文本语句分类模型包 括预训练子模型、 特 征约束子模型和文本分类子模型; 特征提取模块, 用于将每个所述样本对数据的所述正样本语句和所述负样本语句输入 至所述初始文本语句分类模型, 通过所述预训练子模型分别对所述正样本语句和所述负样 本语句进 行特征提取, 得到所述正样本语句的第一文本特征和所述负样本语句的第二文本 特征; 特征约束模块, 用于通过所述特征约束子模型和所述第 二文本特征对所述第 一文本特 征进行特征约束, 以更新所述第一文本特 征; 样本文本分类模块, 用于通过所述文本分类子模型对所述第 一文本特征进行文本分类 处理, 得到所述 正样本语句属于每 个类别标签的样本预测概 率值; 数值比较模块, 用于对所述正样本语句的多个所述样本预测概率值进行数值比较, 确 定所述正样本语句的目标样本标签; 目标模型构建模块, 用于根据 所述正样本语句的所述正样本标签和所述目标样本标签权 利 要 求 书 2/3 页 3 CN 115510232 A 3
专利 文本语句分类方法和分类装置、电子设备及存储介质
文档预览
中文文档
23 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
赞助2元下载(无需注册)
温馨提示:本文档共23页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
下载文档到电脑,方便使用
赞助2元下载
本文档由 人生无常 于
2024-03-18 02:15:30
上传分享
举报
下载
原文档
(1.1 MB)
分享
友情链接
T-QGCML 264—2022 智能数字化血糖监测系统通用技术要求.pdf
SN-T 5152-2019 生活用纸中甲醛含量的测定方法 高效液相色谱法.pdf
安全营销 喵喵站 网安新兴赛道及厂商速查指南-第1版 2022.pdf
GB-T 30950-2014 闸位计.pdf
DB13-T 5394-2021 冶金企业煤气管网安全管理规范 河北省.pdf
JR-T 0071.1—2020 金融行业网络安全等级保护实施指引 第1部分:基础和术语.pdf
GB-T 43236-2023 城市生态风险评价技术指南.pdf
DB43-T 2746-2023 特种设备使用单位安全风险评估和管控导则 湖南省.pdf
T-SZUAVIA 001—2021 低慢小无人机探测反制系统通用要求.pdf
GB-T 36681-2018 展览场馆服务管理规范.pdf
绿盟 2013年工业控制系统及其安全性研究报.pdf
GB-T 30240.10-2017 公共服务领域英文译写规范 第10部分:商业金融.pdf
OWASP 软件保障成熟度模型 SAMM 2.0中文版.pdf
GB-T 18337.3-2001 生态公益林建设 技术规程.pdf
T-ZSA 37—2020 移动智能终端密码技术政企应用指南.pdf
DB65-T 3902-2016 烟花爆竹批发、零售及储存库事故隐患排查技术规范 新疆维吾尔自治区.pdf
GB-T 29873-2013 能源计量数据公共平台数据传输协议.pdf
GB-T 28449-2018 信息安全技术 网络安全等级保护测评过程指南.pdf
GB-T 42888-2023 信息安全技术 机器学习算法安全评估规范.pdf
DB32-T 3702-2019 江苏省日照分析技术规程 江苏省.pdf
1
/
3
23
评价文档
赞助2元 点击下载(1.1 MB)
回到顶部
×
微信扫码支付
2
元 自动下载
点击进入官方售后微信群
支付 完成后 如未跳转 点击这里下载
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们
微信(点击查看客服)
,我们将及时删除相关资源。