「NeurIPS 2020」基于局部子图的图元学习

2023-05-16

点击蓝字,设为星标

「NeurIPS 2020」 的接收论文《Graph Meta Learning via Local Subgraphs》,「G-META 是第一个使用局部子图来进行元学习的模型。」

Graph Meta Learning via Local Subgraphs

目前流行的图学习方法需要丰富的标签和边信息进行学习。「当新任务的数据稀缺时,元学习允许我们从以前的经验中学习」,并形成急需的归纳偏见,以便快速适应新任务。

此文介绍了「G-META,一种新的图的元学习方法:」

  1. G-META 使用局部子图传递特定于子图的信息,并通过元梯度使模型更快地学习基本知识。

  2. G-META 学习如何仅使用新任务中的少数节点或边来快速适应新任务,并通过学习其他图或相关图(尽管是不相交的标签集)中的数据点来做到这一点。

G-META 在理论上是合理的,因为「特定预测的证据可以在目标节点或边周围的局部子图中找到。」

现有方法是专门为特定的图元学习问题和特定的任务设计的专门技术。虽然这些方法为 GNN 中的元学习提供了一种很有前途的方法,但它们的特定策略没有很好的伸缩性,也不能扩展到其他图的元学习问题(图1)。

图1:图的元学习问题。
A.元学习器通过观察同一图中的其他标签集来对看不见的标签集进行分类。
B.元学习器通过学习具有相同标签集的其他图来学习看不见的图。
C.元学习器通过学习多个图上的其他标签集来对看不见的标签集进行分类。

「与现有的方法不同,G-META 可以解决上述三个问题,并且还适用于链接预测」

在7个数据集和9个基线方法上的实验表明,「G-META 的性能比现有方法高出16.3%」

与以前的方法不同,G-META 可以在具有挑战性的、few-shot learning 的学习环境中成功地学习,这些学习环境需要将其推广到全新的图形和从未见过的标签中。

最后,G-META 可扩展到大型图,文章在包含1840个图的新 Tree-of-Life 数据集中进行了演示,这比以前工作中使用的图的数量增加了两个数量级。

G-META 模型图

  • (1)首先构造一批 个元训练任务,并为元任务中的节点动态提取局部子图。

  • 对于每个任务 ,(2)来自支撑集中的子图是最小批处理的,并且被馈送到由 参数化的 GNN 中。

  • (3)利用质心节点生成支撑集嵌入;

  • (4)根据支撑质心嵌入计算原型。

  • 然后,(5)计算支撑集损失 ,以及(6)反向传播以更新 GNN 参数。

  • (7)子图 馈送到更新后的 GNN 中以(8)生成查询质心嵌入。

  • (9)利用支撑原型和查询嵌入,计算任务 的查询损失

  • 对于 更新步骤重复步骤(2-9)。

  • 从相同的 GNN   开始,对其他 个采样任务重复相同的过程。

  • (10)对所有任务的上一次更新步骤的查询损失进行汇总,并用于更新 。然后,对另一批任务进行采样,重复步骤(1-10)。

  • 然后,对于元测试任务,使用元学习参数 对 GNN 重复步骤(1-9),这使得能够对看不见的任务进行泛化。

数据集

数据集统计信息。Fold-PPI 和 Tree-of-Life是此工作中引入的新数据集

实验结果

合成数据集上的图元学习性能:

真实数据集上的图元学习性能:

往期精彩推荐

图神经网络资源大集合~快来打包带走

扫码关注   设为星标         及时获得精彩消息

图神经网络/推荐算法/图表示学习

球分享

球点赞

球在看

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

「NeurIPS 2020」基于局部子图的图元学习 的相关文章

  • FreeRTOS队列实验时报错Error:..\FreeRTOS\portable\RVDS\ARM_CM3\port.c,699

    FreeRTOS队列实验时报错Error FreeRTOS portable RVDS ARM CM3 port c 699 如下图所示 xff1a 报错的原因是 xff1a 设置处理队列消息的中断优先级不是FreeRTOS可以管理的 xf
  • MySQL储存过程执行报1292 - Truncated incorrect datetime value:

    MySQL储存过程执行报1292 Truncated incorrect datetime value 首先查看数据库的时区查看MySQL数据库的模式最后看一下你复制的储存过程是不是有编码格式问题 xff1f 首先查看数据库的时区 查看数据
  • 8266+DS3231时钟之开发个时钟遇到的N个坑【一】

    这个时钟系列目前五篇分别是 xff1a 8266 43 DS3231时钟之开发个时钟遇到的N个坑 一 8266 43 ds3231时钟之arduino官网发布的DS3231库的分析 二 8266 43 DS3231时钟之DS3231具体实现
  • ILI9341的使用之【一】TFT-LCD原理(转载)

    近期开始研究手上的LCD屏的使用 该LCD屏使用了ILI9341的IC做为驱动 因此边研究边留下记录 与上一个时钟系列类似 xff0c 想必这又是一个大工程 xff0c 因为ILI9341的数据手册就有200多页 xff0c 从硬件原理 x
  • ILI9341的使用之【二】ILI9341介绍

    ILI9341的使用之 一 TFT LCD原理 xff08 转载 xff09 ILI9341的使用之 二 ILI9341介绍 ILI9341的使用之 三 ILI9341系统通信接口模式操作详解 ILI9341的使用之 四 RGB接口操作详解
  • ILI9341的使用之【三】ILI9341系统通信接口模式操作详解

    ILI9341的使用之 一 TFT LCD原理 xff08 转载 xff09 ILI9341的使用之 二 ILI9341介绍 ILI9341的使用之 三 ILI9341系统通信接口模式操作详解 ILI9341的使用之 四 RGB接口操作详解
  • 图说蚁群算法(ACO)附源码

    PS xff1a 再过几天就可以返校收拾东西了 xff0c 想想还有点小激动呐hhh 回想疫情宅家的这半年 xff0c 真是一段充满了焦虑 惊喜 忙碌 充实又时而无聊的时光 返校只能待三天又让人有点小遗憾呐 就想着趁还在家这几天 xff0c
  • ILI9341的使用之【四】RGB接口操作详解

    ILI9341的使用之 一 TFT LCD原理 xff08 转载 xff09 ILI9341的使用之 二 ILI9341介绍 ILI9341的使用之 三 ILI9341系统通信接口模式操作详解 ILI9341的使用之 四 RGB接口操作详解
  • 基于ESP32的开发板的选型介绍

    由于最近重新选择单片机的开发平台 之前用过ESP8266模组和基于8266的NodeMCU开发板 xff0c 而且使用的经历还是很愉快的 因此这次很自然的想到了去找看看是否有基于ESP32的NodeMCU开发板 xff0c 结果没让人失望
  • ESP-IDF的vscode环境编译时出现“fatal error: nvs.h: No such file or directory”的解决方法

    目录 前言ESP IDF编程指南原文解读关于ESP IDF的组件管理模式示例项目的结构层次顶层项目CMakeLists txt文件的解释必要部分可选的项目变量 组件 CMakeLists 文件的解读最小组件 CMakeLists 文件 组件
  • 【ESP32+freeRTOS学习笔记-开篇前言】

    目录 前言的前言RTOS的选择开发与实践环境参考资料笔记的形式专题文章的链接 持续更新中 前言的前言 单片机的开发 xff0c 也有两年多了 xff0c 之前一直是做一些简单应用 xff0c 因此以裸机开发的方式为主 虽然裸机开发简单 xf
  • 【ESP32+freeRTOS学习笔记-(一)freeRTOS介绍】

    目录 FreeRTOS基本情况FreeRTOS的特色发行版的目录结构与文件说明原生程序的下载与目录结构FreeRTOS的主要文件说明头文件说明关于FreeRTOSConfig h的说明 主要的数据类型说明重要数据类型 TickType t重
  • 【ESP32+freeRTOS学习笔记-(二)FreeRTOS运行机制】

    目录 实时操作系统RTOS主要功能RTOS工作概况基本概念 FreeRTOS 心跳 任务优先级调度算法其它资源与概念 FreeRTOS运行机制描述总结 实时操作系统 实时操作系统RTOS是保证在一定时间限制内完成特定功能的操作系统 实时操作
  • 【ESP32+freeRTOS学习笔记-(三)任务】

    目录 1 任务相关基本概念1 1 任务函数原型1 2 任务句柄TaskHandle t 及任务控制块TCB t1 3 任务状态1 4 优先级 Task Priorities 2 创建任务2 1 xTaskCreate2 2 xTaskCre
  • 【ESP32+freeRTOS学习笔记-(四)任务调度机制】

    目录 1 什么是任务的调度机制1 1 概念1 2 三种算法1 3 决定算法的宏 2 基本词条解释3 调度算法解释3 1 具有时间片的优先级抢先调度 Prioritized Pre emptive Scheduling with Time S
  • 【ESP32+freeRTOS学习笔记-(五)队列Queue】

    目录 1 什么是队列Queue2 队列的多任务特性2 1 多任务的访问 xff1a 2 2 队列读取阻塞 xff1a 2 3 写队列阻塞 xff1a 2 4 阻塞于多个队列 xff1a 3 队列的使用3 1 创建队列 The xQueueC
  • 【ESP32+freeRTOS学习笔记-(六)软件定时器】

    目录 1 软件定时器概念2 软件定时器的运行机制2 1 组成2 2 创建2 3 运行 3 软件定时器的属性和状态3 1 定时器的周期3 2 定时器的类型3 3 定时器的状态 4 软件定时器的回调函数原型5 定时器的使用5 1 创建定时器xT
  • 图说粒子群优化算法(PSO)附源码

    前面说了ACO xff0c 这次就来说下PSO吧 目录 一 初识PSO xff1a 这是个啥玩意 xff1f 二 PSO的数学原理 三 MATLAB代码 一 初识PSO xff1a 这是个啥玩意 xff1f 粒子群优化算法是模拟鸟群觅食行为
  • 【ESP32+freeRTOS学习笔记-(七)中断管理】

    目录 1 概述2 在ISR中使用FreeRTOS中专用的API2 1 独立的用于ISR中的API2 2 关于xHigherPriorityTaskWoken 参数的初步理解 3 延迟中断处理的方法 将中断中的处理推迟到任务中去4 方法一 x
  • 【ESP32+freeRTOS学习笔记-(八)资源管理】

    目录 1 资源使用概况2 互斥方法之一 xff1a 基本临界区2 1 taskENTER CRITICAL FROM ISR 和taskEXIT CRITICAL FROM ISR 3 互斥方法之二 xff1a 挂起或锁定调度程序3 1 v

随机推荐