(19)国家知识产权局
(12)发明 专利申请
(10)申请公布号
(43)申请公布日
(21)申请 号 202210715315.9
(22)申请日 2022.06.23
(71)申请人 清华大学
地址 100084 北京市海淀区清华园1号
(72)发明人 朱文武 王鑫 秦一鉴
(74)专利代理 机构 北京润泽恒知识产权代理有
限公司 1 1319
专利代理师 苟冬梅
(51)Int.Cl.
G06V 10/40(2022.01)
G06V 10/74(2022.01)
G06V 10/764(2022.01)
G06V 10/774(2022.01)
G06V 10/82(2022.01)
G06N 3/04(2006.01)G06N 3/08(2006.01)
(54)发明名称
一种图神经网络架构定制方法、 装置、 设备
及存储介质
(57)摘要
本申请实施例涉及图数据处理技术领域, 具
体涉及一种图神经网络架构定制方法、 装置、 设
备及存储介质,旨在对分布不同的图定制最合适
的神经网络架构, 提升图数据相关任务的准确
性。 所述方法包括: 接收图数据以及所述图数据
对应的目标任务, 通过自监督解耦自编码器对所
述图数据进行特征提取, 得到所述图数据对应的
图表征; 使用基于原型的架构定制策略, 根据所
述图表征进行架构定制, 得到所述图表征对应的
神经网络架构; 将所述神经网络架构输入定制超
网络中, 在所述定制超网络中通过所述神经网络
架构对所述图数据进行处理, 得到目标任务结
果。
权利要求书2页 说明书11页 附图2页
CN 114972772 A
2022.08.30
CN 114972772 A
1.一种图神经网络架构定制方法, 其特 征在于, 所述方法包括:
接收图数据以及所述图数据对应的目标任务, 通过自监督解耦自编码器对所述图数据
进行特征提取, 得到所述图数据对应的图表征;
使用基于原型的架构定制策略, 根据所述图表征进行架构定制, 得到所述图表征对应
的神经网络架构;
将所述神经网络架构输入定制超 网络中, 在所述定制超 网络中通过所述神经网络架构
对所述图数据进行处 理, 得到目标任务结果。
2.根据权利要求1所述的方法, 其特征在于, 通过自监督解耦自编码器对所述图数据进
行特征提取, 得到所述图数据对应的图表征, 包括:
将所述图数据进行平均拆分处 理, 得到多个子图;
将所述多个子图分别输入不同的网络块中, 得到所述多个子图对应的多个子图表征;
将所述多个子图表征进行拼接, 得到所述图数据对应的图表征。
3.根据权利要求1所述的方法, 其特征在于, 使用基于原型的架构定制策略, 根据所述
图表征进行架构定制, 得到所述图表征对应的神经网络架构, 包括:
对所述图表征与多个原型向量分别进行余弦相似度计算, 得到所述图表征与每个所述
原型向量的余弦相似度, 所述原型向量为所述神经网络架构中的每一层的每一种操作对应
的向量;
对所述图表征与每个所述原型向量的余弦相似度进行归一化指数计算, 得到所述神经
网络架构。
4.根据权利要求1所述的方法, 其特征在于, 将所述神经网络架构输入定制超网络中,
在所述定制超网络中通过所述神经网络架构对所述图数据进行处理, 得到目标任务结果,
包括:
将所述图数据输入所述神经网络架构;
通过所述定制超网络, 根据所述神经网络架构中的每一层神经网络的每种操作的权
重, 对所述图数据进行相应的操作, 得到所有操作结果的加权和;
根据所述加权和, 得到所述目标任务的预测结果。
5.根据权利要求1所述的方法, 其特征在于, 所述方法基于 图数据架构定制网络实现,
所述图数据架构定制网络是由以下步骤训练得到的:
将预先标注好的图数据与对应的目标任务输入所述图数据架构定制网络中;
所述图数据架构定制网络通过所述自监督解耦自编码器得到所述图数据对应的图表
征, 通过架构 定制层得到所述图表征对应的神经网络架构, 通过所述定制超网络, 根据所述
神经网络架构得到所述目标任务的预测结果;
根据所述目标任务的预测结果, 得到所述图数据架构定制网络的任务损失值;
将所述图数据架构定制网络的任务损失值反 向传播至所述图数据架构定制网络 中, 通
过所述图数据架构 定制网络的损失函数对所述图数据架构 定制网络进 行训练, 得到训练好
的图数据架构定制网络 。
6.根据权利要求5所述的方法, 其特征在于, 根据所述目标任务的预测结果, 得到所述
图数据架构定制网络的任务损失值, 包括:
根据所述目标任务的预测结果, 确定所述自监督解耦自编码器的损 失值, 所述架构定权 利 要 求 书 1/2 页
2
CN 114972772 A
2制层的损失值以及所述定制超网络的损失值;
将所述自监督解耦自编码器的损失值, 所述架构定制层的损失值以及所述定制超 网络
的损失值进行加权组合, 得到所述图数据架构定制网络的任务损失值。
7.根据权利要求6所述的方法, 其特征在于, 根据所述目标任务的预测结果, 确定所述
自监督解耦自编码器的损失值, 所述架构定制层的损失值, 包括:
根据所述目标任务的预测结果, 确定所述自监督解耦自编码器的监督任务的损 失值,
根据所述自监督解耦自编码器的监督任务的损失值与所述自监督解耦自编码器的自监督
任务的损失值, 确定所述自监 督解耦自编码器的损失值;
根据所述目标任务的预测结果, 确定所述架构定制层中的监督任务的损 失值, 根据所
述架构定制层中监督任务的损失值以及所述架构 定制层中的原型向量的余弦距离损失值,
确定所述架构定制层的损失值。
8.一种图神经网络架构定制装置, 其特 征在于, 所述装置包括:
图表征提取模块, 用于接收图数据以及所述图数据对应的目标任务, 通过自监督解耦
自编码器对所述图数据进行 特征提取, 得到所述图数据对应的图表征;
架构定制模块, 用于使用基于原型的架构定制策略, 根据所述图表征进行架构定制, 得
到所述图表征对应的神经网络架构;
超网络计算模块, 用于将所述神经网络架构输入定制超网络中, 在所述定制超网络中
通过所述神经网络架构对所述图数据进行处 理, 得到目标任务结果。
9.一种计算机可读存储介质, 其上存储有计算机程序, 其特征在于, 该计算机程序被处
理器执行时, 实现如权利要求1至7任一所述的方法中的步骤。
10.一种电子设备, 包括存储器、 处理器及存储在存储器上并可在处理器上运行的计算
机程序, 其特征在于, 所述处理器执行所述计算机程序时, 实现如权利要求 1至7任一所述的
方法的步骤。权 利 要 求 书 2/2 页
3
CN 114972772 A
3
专利 一种图神经网络架构定制方法、装置、设备及存储介质
文档预览
中文文档
16 页
50 下载
1000 浏览
0 评论
0 收藏
3.0分
温馨提示:本文档共16页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
本文档由 SC 于 2024-02-18 22:32:26上传分享