standard library
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210097054.9 (22)申请日 2022.01.26 (71)申请人 北京百度网讯科技有限公司 地址 100085 北京市海淀区上地十街10号 百度大厦2层 (72)发明人 胡哲 刘家辰 肖欣延  (74)专利代理 机构 中科专利商标代理有限责任 公司 11021 专利代理师 吴晓兵 (51)Int.Cl. G06F 40/30(2020.01) G06F 40/211(2020.01) G06N 3/08(2006.01) (54)发明名称 文本生成方法、 模 型的训练方法、 装置、 电子 设备及介质 (57)摘要 本公开提供了一种文本生 成方法、 文本生成 模型的训练方法、 装置、 电子设备、 存储介质以及 程序产品, 涉及计算机技术领域, 尤其涉及深度 学习、 自然语言处理技术领域。 具体实现方案为: 确定目标语义信息的基准特征表 示; 基于基准特 征表示和至少一个预定逻辑字 符, 确定与至少一 个预定逻辑字符一一对应的至少一个句子隐式 表示; 以及基于至少一个句子隐式表示, 生成目 标文本内容。 权利要求书3页 说明书11页 附图5页 CN 114492456 A 2022.05.13 CN 114492456 A 1.一种文本生成方法, 包括: 确定目标语义信息的基准特 征表示; 基于所述基准特征表示和至少一个预定逻辑字符, 确定与所述至少一个预定逻辑字符 一一对应的至少一个句子隐式表示; 以及 基于所述至少一个句子隐式表示, 生成目标文本内容。 2.根据权利要求1所述的方法, 其中, 所述基于所述至少一个句子隐式表示, 生成目标 文本内容包括: 针对至少一个句子隐式表示中的每个句子隐式表示, 利用所述句子隐式表示和待生成 文本语句中的已生 成的i个文字特征表示, 确定所述待生成文本语句中的第i+1个文字特征 表示, 其中, 所述待生成文本语句为与所述句子隐式表示相对应的文本语句, i为大于或者 等于0的整数; 以及 基于所述第i+1个文字特 征表示, 确定所述第i+1个文字内容。 3.根据权利要求1所述的方法, 其中, 所述基于所述至少一个句子隐式表示, 生成目标 文本内容包括: 针对至少一个句子隐式表示中的每个句子隐式表示, 利用所述句子隐式表示和待生成 文本语句中的已生 成的i个目标文字特征表 示, 确定所述待生 成文本语句中的第i+1个文字 特征表示, 其中, 所述待生成文本语句为与所述句 子隐式表示相对应的文本语句, i为大于 或者等于0的整数; 基于所述第i+1个文字特征表示和辅助选择特征表示, 确定所述第i+1个目标文字特征 表示, 其中, 所述辅助选择 特征表示是基于所述基准特 征表示得到的; 以及 基于所述第i+1个目标文字特 征表示, 确定所述第i+1个文字内容。 4.根据权利要求1至3中任一项所述的方法, 其中, 所述基于所述基准特征表示和至少 一个预定逻辑字符, 确定与所述至少一个预定逻辑字符一一对应的至少一个句子隐式表示 包括: 针对所述至少一个预定逻辑字符中的每个预定逻辑字符, 利用所述基准特征表示和所 述预定逻辑字符, 生成与所述预定 逻辑字符相对应的初始句子隐式表示; 以及 基于所述初始句子隐式表示, 确定所述句子隐式表示。 5.根据权利要求1至4中任一项所述的方法, 还 包括: 基于所述目标语义信 息, 生成所述基准特征表示, 其中, 所述目标语义信息包括标题和 至少一个关键词。 6.一种文本生成模型的训练方法, 包括: 利用训练样本训练文本生成模型, 得到经训练的文本生成模型, 其中, 所述训练样本包 括目标样本语义信息和样本文本内容; 其中, 所述文本生成模型用于: 确定目标语义信息的基准特征表示; 基于所述基准特征表示和至少一个预定逻辑字 符, 确定与所述至少一个预定逻辑字符一一对应的至少一个句 子隐式表示; 以及基于所述 至少一个句子隐式表示, 生成目标文本内容。 7.根据权利要求6所述的方法, 其中, 所述利用训练样本训练文本生成模型, 得到经训 练的文本生成模型包括:权 利 要 求 书 1/3 页 2 CN 114492456 A 2确定所述目标样本语义信息的样本基准特征表示, 其中, 所述目标样本语义信息包括 样本标题和所述至少一个样本关键词; 利用文本生成模型处理所述样本基准特征表示和至少一个预定逻辑字符, 得到与 所述 至少一个预定 逻辑字符一 一对应的至少一个样本句子隐式表示; 针对所述至少一个样本句子隐式表示中的每个样本句子隐式表示, 根据词袋预测方 法, 基于所述样本句子隐式表示, 得到预测关键词信息; 以及 利用所述预测关键词信息和标签训练所述文本生成模型, 得到经训练的文本生成模 型, 其中, 所述标签是基于所述样 本文本内容生成的, 所述标签用于表征所述样本文本内容 中与所述样本句子隐式表示相对应的样本文本语句中的关键词信息 。 8.一种文本生成装置, 包括: 第一确定模块, 用于确定目标语义信息的基准特 征表示; 第二确定模块, 用于基于所述基准特征表示和至少一个预定逻辑字符, 确定与所述至 少一个预定 逻辑字符一 一对应的至少一个句子隐式表示; 以及 内容生成模块, 用于基于所述至少一个句子隐式表示, 生成目标文本内容。 9.根据权利要求8所述的装置, 其中, 所述 生成模块包括: 第一特征表示确定单元, 用于针对至少一个句子隐式表示中的每个句子隐式表示, 利 用所述句 子隐式表示和待生成文本语句中的 已生成的i个文字特征表示, 确定所述待生成 文本语句中的第i +1个文字特征表示, 其中, 所述待生成文本语句为与所述句子隐式表 示相 对应的文本语句, i 为大于或者 等于0的整数; 以及 第一文字内容确定单元, 用于基于所述第i+1个文字特征表示, 确定所述第i+1个文字 内容。 10.根据权利要求8所述的装置, 其中, 所述 生成模块包括: 第二特征表示确定单元, 用于针对至少一个句子隐式表示中的每个句子隐式表示, 利 用所述句 子隐式表示和待生成文本语句中的 已生成的i个目标文字特征表示, 确定所述待 生成文本语句中的第i+1个文字特征表示, 其中, 所述待生 成文本语句为与所述句子隐式表 示相对应的文本语句, i 为大于或者 等于0的整数; 第三特征表示确定单元, 用于基于所述第i+1个文字特征表示和辅助选择特征表示, 确 定所述第i+1个目标文字特征表 示, 其中, 所述辅助选择特征表 示是基于所述基准特征表 示 得到的; 以及 第二文字内容确定单元, 用于基于所述第i+1个目标文字特征表示, 确定所述第i+1个 文字内容。 11.根据权利要求8至10中任一项所述的装置, 其中, 所述第三特 征表示确定单 元包括: 第一隐式表示确定子单元, 用于针对所述至少一个预定逻辑字符中的每个预定逻辑字 符, 利用所述基准特征表示和所述预定逻辑字符, 生成与所述预定逻辑字符相对应的初始 句子隐式表示; 以及 第二隐式表示确定 子单元, 用于基于所述初始句子隐式表示, 确定所述句子隐式表示。 12.根据权利要求8至1 1中任一项所述的装置, 还 包括: 特征表示生成模块, 用于基于所述目标语义信息, 生成所述基准特征表示, 其中, 所述 目标语义信息包括标题和至少一个关键词。权 利 要 求 书 2/3 页 3 CN 114492456 A 3

PDF文档 专利 文本生成方法、模型的训练方法、装置、电子设备及介质

文档预览
中文文档 20 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共20页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 文本生成方法、模型的训练方法、装置、电子设备及介质 第 1 页 专利 文本生成方法、模型的训练方法、装置、电子设备及介质 第 2 页 专利 文本生成方法、模型的训练方法、装置、电子设备及介质 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-02-18 22:33:43上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。