关于元学习收集资料杂乱整理2021.9.11

2023-05-16

元学习论文:https://github.com/rootlu/MetaLearning-Papers
应用于 NLP 领域的 Meta/few-shot 学习方法的最新论文列表:https://github.com/ha-lins/MetaLearning4NLP-Papers (自己准备看对话系统和文本分类)
在这里插入图片描述

在这里插入图片描述

Dialog System
Learning to Customize Model Structures for Few-shot Dialogue Generation Tasks. Yiping Song, Zequn Liu, Wei Bi, Rui Yan, Ming Zhang ACL 2020. [pdf][code]

Meta-Reinforced Multi-Domain State Generator for Dialogue Systems. Yi Huang, Junlan Feng, Min Hu, Xiaoting Wu, Xiaoyu Du, Shuo Ma ACL 2020. [pdf]

Learning Low-Resource End-To-End Goal-Oriented Dialog for Fast and Reliable System Deployment. Yinpei Dai, Hangyu Li, Chengguang Tang, Yongbin Li, Jian Sun, Xiaodan Zhu ACL 2020[short]. [pdf]

Domain Adaptive Dialog Generation via Meta Learning. Kun Qian, Zhou Yu. ACL 2019. [pdf] [code]

Meta-Learning for Low-resource Natural Language Generation in Task-oriented Dialogue Systems. Fei Mi, Minlie Huang, Jiyong Zhang, Boi Faltings. IJCAI 2019. [pdf]

Personalizing Dialogue Agents via Meta-Learning. Zhaojiang Lin, Andrea Madotto, Chien-Sheng Wu, Pascale Fung. ACL 2019[short]. [pdf] [code]

Dialogue Generation on Infrequent Sentence Functions via Structured Meta-Learning. Yifan Gao, Piji Li, Wei Bi, Xiaojiang Liu, Michael R. Lyu, Irwin King. EMNLP 2020[fingdings]. [pdf]

Graph Evolving Meta-Learning for Low-resource Medical Dialogue Generation. Shuai Lin, Pan Zhou, Xiaodan Liang, Jianheng Tang, Ruihui Zhao, Ziliang Chen, Liang Lin. AAAI 2021. [pdf][code]

Classification
Dynamic Memory Induction Networks for Few-Shot Text Classification. Ruiying Geng, Binhua Li, Yongbin Li, Jian Sun, Xiaodan Zhu. ACL 2020. [pdf]

Few-shot Text Classification with Distributional Signatures. Yujia Bao, Menghua Wu, Shiyu Chang and Regina Barzilay. ICLR 2020. [pdf] [code]

Induction Networks for Few-Shot Text Classification. Ruiying Geng, Binhua Li, Yongbin Li, Xiaodan Zhu, Ping Jian, Jian Sun. EMNLP 2019. [pdf]

Learning to Learn and Predict: A Meta-Learning Approach for Multi-Label Classification. Jiawei Wu, Wenhan Xiong, William Yang Wang. EMNLP 2019. [pdf]

Model-Agnostic Meta-Learning for Relation Classification with Limited Supervision. Abiola Obamuyide, Andreas Vlachos. ACL 2019[short]. [pdf]

Self-Supervised Meta-Learning for Few-Shot Natural Language Classification Tasks. Trapit Bansal, Rishikesh Jha, Tsendsuren Munkhdalai, Andrew McCallum. EMNLP 2020. [pdf]

以后找相关论文的地方:
发现一个网址总结了各个方向的论文:https://www.aminer.cn/topic
比如搜索元学习:https://www.aminer.cn/topic?sort=num_view&page=1&query=%E5%85%83%E5%AD%A6%E4%B9%A0

0、【元学习】Meta Learning 介绍
https://www.cnblogs.com/xxxxxxxxx/p/11695044.html

1、元学习与自然语言处理
2019年三篇NLP和自然语言处理的应用:
1)Domain Adaptive Dialog Generation via Meta Learning, ACL2019
讲述的是任务型对话系统面向的领域和应用很多,这就对数据有了要求。希望能够对于较少的样本也能达到效果较好的域自适应的任务型对话生成模型。提出DAML。
2)Personalizing Dialogue Agents via Meta-Learning, ACL2019
个性化对话系统需要在较少的数据上迅速调整为针对特定用户的定制模型。采用MAML。
3)Meta Relational Learning for Few-Shot Link Prediction in Knowledge Graphs, EMNLP2019
通过元学习方式解决少样本条件下的知识图谱链接预测问题。

2、如何快速水一篇NLP论文
介绍了两篇论文:
1)Domain Adaptive Dialog Generation via Meta Learning, ACL2019
2)Graph Evolving Meta-Learning for Low-resource Medical Dialogue Generation, AAAI 2021.
低资源场景下的医疗对话系统的工作,旨在通过元学习构建一个跨疾病可迁移的对话系统。该对话系统包含三个组件:分层上下文编码器、元知识图推理模块与图指导的响应生成器;同样还是类似MAML的思路,只不过针对现有知识图谱对对话实体覆盖不全的问题,本文还通过graph evolving的方法对知识图谱进行丰富。

通过这两个工作和paper list,可以看到以「MAML」为代表的optimization-based meta learning方法,以其模型无关的灵活性的特点,在各个NLP topic(如:dialog system/ semantic parsing等)的few-shot场景下遍地开花,而其他的meta-learning方法(如metric-based)多集中在解决分类问题上。如何在少量数据场景下构造出合理的meta task,是解决问题的关键。

3、基于元学习的现实场景应用论文介绍
两篇基于元学习方法在现实场景的应用论文。
1)Relation-aware Meta-learning for Market Segment Demand Prediction with Limited Records
应用场景:大型电子商务平台
新的框架RMLDP,以解决细分市场的需求预测任务。RMLDP结合了一个具有元学习范式的多模式融合网络。在元学习范式中,进一步提取片段关系以定制模型参数初始化。并将所提出的方法应用于在线平台。
2)Learning from Multiple Cities: A Meta-Learning Approach for Spatial-Temporal Prediction
应用场景:智慧城市建设
提出了一个新的MetaST框架,通过将时空网络与元学习范式相结合来解决问题。

4、元学习相关的经典文章、代码、书籍、博客、视频教程、数据集等其他资源,提供给需要的朋友
简单列出了上述内容,论文未标明出处。

5、初探元学习 2021.9.11晚看
写的挺好的。
什么是元学习;其与机器学习和迁移学习的区别;在数学上的定义;元学习的基本问题可分三类;元学习的分类/方法;
文中参考的博客文章都要细看。
元学习:学会快速学习:https://www.bilibili.com/read/cv4310739/

综述:

1、一篇元学习综述的总结《Meta-Learning in Neural Networks: A Survey》:https://mp.weixin.qq.com/s/QLzdW6CMkcXWQbGjtOBNwg
https://zhuanlan.zhihu.com/p/261170127?utm_source=cn.wiz.note
http://www.360doc.com/content/20/1028/18/32196507_942850516.shtml
http://www.360doc.com/content/20/1028/18/32196507_942850516.shtml
在这里插入图片描述

2、小样本学习领域的综述《Generalizing from a Few Examples: A Survey on Few-Shot Learning》
https://blog.csdn.net/z704630835/article/details/103959490
https://blog.csdn.net/algorithmPro/article/details/106184414
https://zhuanlan.zhihu.com/p/129786553
3、《》

3、https://zhuanlan.zhihu.com/p/64775132在这里插入图片描述

4、文中提了两篇综述
https://blog.csdn.net/weixin_41803874/article/details/89847811

5、《A Survey of Deep Meta-Learning》
https://zhuanlan.zhihu.com/p/264402151

6、元学习(Meta-Learning) 综述及五篇顶会论文推荐
https://blog.csdn.net/weixin_41803874/article/details/89920370
在这里插入图片描述
1)微分凸优化元学习 ,CVPR 2019 Oral
在这里插入图片描述
2)无监督元学习,ICLR 2019
3)在线元学习
4)多城市学习:时空预测的元学习方法,WWW2019
5)通过元学习进行图神经网络对抗攻击,ICLR 2019
7、计算机学报的元学习研究综述
http://cjc.ict.ac.cn/online/onlinepaper/lfz-2021128205230.pdf

其他:
ACL2020放榜!事件抽取、关系抽取、NER、Few-Shot相关论文整理~
AAAI2021中事件抽取、关系抽取、NER、NLP相关的Few-Shot和Zero-Shot论文整理
一文速览 | ACL 2021 主会571篇长文分类汇总

如何通过元学习解决小样本图像分类任务
通过改进特征提取算法和匹配算法,每年都会产生许多新的度量学习方法。
说实话,在主流小样本图像分类的评价标准上,MAML目前性能不如度量学习。由于它的两级训练过程,在实践中训练难度很大,因此超参搜索要比普通模型复杂得多。另外,元反向传播需要计算梯度的梯度,所以目前只能通过计算其近似值才能在标准GPU上进行训练。出于这些原因,大家在实际应用中可能更愿意使用度量学习算法。
但之所以MAML模型受到那么多关注,是因为它是模型不可知的。这意味着它实际上可以应用于任何神经网络,任何任务。掌握MAML意味着能够训练任何一个神经网络,使其快速适应新的任务,而且只需要很少的训练样本。MAML的作者Chelsea Finn和Sergey Levine,将其应用于有监督的小样本分类、有监督的回归和强化学习。但只要多努努力,你就可以用它把任何一个神经网络转换成一些高效的神经网络!

元学习研究的进展与未来——VALSE Webinar 21-10期观看笔记
入门 | 从零开始,了解元学习 已看
《Meta-Learning a Dynamical Language Model》
A Simple Neural Attentive Meta-Learner
学习如何学习的算法:简述元学习研究方向现状

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

关于元学习收集资料杂乱整理2021.9.11 的相关文章

  • symbol lookup error: undefined symbol: _ZN3tbb8internal13numa_topology4fillEPi 解决方法

    使用 运行C 43 43 程序 xff1a pedestrian tracker demo 输出报错 xff1a undefined symbol ZN3tbb8internal13numa topology4fillEPi samples
  • 软件工程学习笔记选择题总结

    第一章 初认软件工程 1 下面的 xff08 C xff09 说法是正确的 A 由于软件是产品 xff0c 因此可以应用其他工程制品所用的技术进行生产 B 购买大多数计算机系统所需的硬件比软件更昂贵 C 大多数软件系统是不容易修改的 xff
  • postman简介与安装步骤

    postman简介与安装步骤 1 postman简介 xff1a 2 postman安装步骤2 1 下载postman2 2 安装postman 3 案例3 1 案例一3 2 案例二案例三 1 postman简介 xff1a Postman
  • 1.4常用Linux命令-进程控制类命令

    程序是一个包含可执行代码的文件 xff0c 它放在磁盘等介质上 当程序被操作系统调用到内存并分配给它一定的资源后 xff0c 此时可称为进程 程序是静态概念 xff0c 进程是动态概念 Linux的进程状态如下图 ps功能描述ps命令是用来
  • 到底是选择嵌入式行业还是互联网行业

    不管是在狄泰圈子还是知乎上面 xff0c 关于到底选择嵌入式行业还是互联网行业这类问题 xff0c 是经常拿来讨论的 差不多像女孩子的月假一样 xff0c 每月必有 今天我就发表一下自己的看法 xff0c 希望对有同样问题的小伙伴有所帮助
  • 用CSS怎样实现鼠标移上去背景颜色变色 onmouseover、onmouseout

    lt DOCTYPE html gt lt html lang 61 34 en 34 gt lt head gt lt meta http equiv 61 34 Content Type 34 content 61 34 text ht
  • 软件质量模型--8大特性(学习笔记)

    目录 一 软件质量模型 二 8个特性及其子特性 一 软件质量模型 软件质量模型将系统 软件产品属性划分为8个特性 xff1a 功能性 性能效率 兼容性 易用性 可靠性 信息安全性 维护性和可移植性 与以往的软件质量六大属性 xff0c 区分
  • 【 Caffe C++】ubuntu下创建hdf5数据源解决多标签问题

    如何在ubuntu下为caffe创建HDF5数据源 xff1f hdf5数据源示例 layer span class token punctuation span name span class token operator span sp
  • MarkDownPad2 正版破解与汉化

    用MarkdownPad2写东西看起来比较高大上 就是专业版的竟然要15美刀 所以今天分享个能用的注册码 让大家都能用免费的专业版 首先去官网下载官方版本的Markdown 因为是外国网站所以可能有点慢 我下载时就是这样 所以我传了个官方的
  • VNC连接不上?too many authentication failures

    VNC连接不上 xff1f too many authentication failures 文章目录 VNC连接不上 xff1f too many authentication failures一 VNC连接不上阿里云服务器 一 VNC连
  • 临时抱佛脚真的有用吗?

    对于面试 应该有相应的准备 xff0c 对面试公司的背景要有简单的了解 xff0c 对企业文化要有简单的认识 那么最关键的就属于问答环节 你问我答 对于这方面 xff0c 有人喜欢临时抱佛脚 但后来 xff0c 我深刻的认识到 xff0c
  • C语言| char[ ]的输出 和结束符 ‘\0‘

    输出char arr 逐个字符输入输出 c 整个字符串一次输入输出 s printf 34 61 61 61 61 61 61 start 61 61 61 61 61 61 n n 34 char arr 61 39 1 39 39 2
  • python中的isdigit()函数

    s为字符串 s isalnum 所有字符都是数字或者字母 s isalpha 所有字符都是字母 s isdigit 所有字符都是数字 s islower 所有字符都是小写 s isupper 所有字符都是大写 s istitle 所有单词都
  • 【WiFi模块ASP-ESP8266】理论讲解与串口助手验证(超详解)

    大家好 xff0c 我是小政 xff0c 一名自动化专业的在校学生 最近在学习利用opencv进行环境监测 xff0c 需要将获取到的数据通过通信协议传输给stm32 我选择使用wifi模块进行无线通信 xff0c 接下来我会将我从入门到掌
  • 【平衡小车制作】(二)电机驱动(超详解)

    大家好 xff0c 我是小政 本篇文章我将针对平衡小车中的电机控制进行详细的讲解 xff0c 驱动一个电机最重要的就是给它一个PWM信号 xff0c PWM的概念 如何驱动电机及通过改变PWM占空比进行电机调速我会在本篇文章中进行详解 让每
  • 【平衡小车制作】(五)位置式PID、直立环与速度环概念(超详解)

    大家好 xff0c 我是小政 本篇文章我将针对位置式PID算法 直立环 速度环等概念进行详细的讲解 xff0c 让每位小伙伴能够对这三个概念有更加清晰的理解 一 PID控制算法 PID控制 xff0c 即为对偏差进行比例 积分和微分控制 由
  • 【平衡小车制作】(七)串级PID调参及平衡成果展示(超详解)

    大家好 xff0c 我是小政 本篇文章我将针对PID调参进行详细的讲解 xff0c 让每位小伙伴能够对比例 积分 微分三个参数如何调节有更加清晰的理解 一 调参步骤 确立机械中值直立环 xff08 内环 xff09 Kp极性 Kp大小 Kd
  • 第七章:总线

    7 1总线概述 总线概述 总线是一组能为多个部件分时共享的公共信息传送线路 共享是指总线上可以挂接多个部件 xff0c 各个部件之间相互交换的信息都可以通过这组公共线路传送 xff1b 分时是指同一时刻总线上只能传送一个部件发送的信息 总线
  • Jetson 系统监视程序Jtop及Jetson基本信息查询

    开启后的界面如下 xff1a 安装Jetson的监视程序 xff1a 了解安装的Jetpack版本是多少 xff1f 了解 GPU 的使用率 xff1f 了解Jetson机器工作在什么模式下 xff1f 了解CPU用了几个 xff1f 散热
  • MVC设计模式

    MVC模式 xff08 Model View Controller xff09 是软件工程中的一种软件架构模式 xff0c 把软件系统分为三个基本部分 xff1a 模型 xff08 Model xff09 视图 xff08 View xff

随机推荐

  • Docker常用基础命令

    目录 1 docker version 查看版本信息 2 docker info 查看docker的一些信息 3 docker search 镜像搜索 4 docker pull 拉取镜像到本地 5 docker push 推送本地的镜像到
  • 硬件基础之变频器&逆变器

    变频器 amp 逆变器工作原理 基本概念直流产生方波思路正弦波产生原理正弦波产生之制作脉冲正弦波产生之滤波 amp 平均 基本概念 逆变器 xff1a 直流电 xff08 DC xff09 转变为交流电 xff08 AC xff09 变频器
  • 硬件基础之STM32最小系统

    STM32 复位电路时钟电路SWD下载电路BOOT电路RTC时钟电源电路 复位电路 STM32为低电平复位 xff0c 上电瞬间电流可视为交流 xff0c 电容导通 xff08 充电过程 xff0c NRST为低电平 xff0c 两个机械周
  • 数据结构常用的结构体定义

    一 顺序表结构体定义 xff1a typedef struct int data maxsize int length Sqlist 二 单链表结构体定义 xff1a typedef struct LNode int data struct
  • Linux基础入门(常用指令总结)

    相信大家对Linux都不陌生 xff0c 本篇文章就详细介绍一些常用的Linux命令 目录 前言 一 Linux是什么 xff1f 二 常用命令 1 cd 切换文件夹 2 ls 查看目录内容 3 mkdir 创建文件夹 4 touch 创建
  • 第7章:OFDM 信道估计与均衡(2)

    第7章 xff08 2 xff09 内容如下 xff1a 一 瑞利衰落信道介绍二 OFDM经过多径衰落信道的误码率分析三 总结 本文对应的完整可运行代码下载地址 xff1a 123kevin456 OFDM 一 瑞利衰落信道介绍 第 xff
  • 阿里云ECS服务器ubuntu18.04图形界面安装配置

    先说一下我用的ECS配置 服务器配置 xff1a 2 vCPU 4 GiB 系统镜像 xff1a ubuntu18 04 xff08 64位 xff09 本文的配置方法在 ubuntu 16 04 上一样适用 1 安装图形化界面 网上一大堆
  • java多线程-进程与线程基础-1

    基本概念 进程 是并发执行的程序在执行过程中分配和管理资源的基本单位 xff0c 是一个动态概念 xff0c 竟争计算机系统资源的基本单位 每一个进程都有一个自己的地址空 间 xff0c 即进程空间或 xff08 虚空间 xff09 进程空
  • 自由度的理解

    研究六轴机械臂的运动学前 xff0c 需要知道机械臂的自由度的定义 xff1a 物体上的任意一个参考点相对基座坐标系O可进行独立自由运动的数量 自由度的计算十分简洁 例如一个物体如正方体 xff0c 取其中心点作为参照点 xff0c 若该参
  • 匿名管道(pipe)和命名管道(mkfifo)

    匿名管道 xff08 pipe xff09 和命名管道 xff08 mkfifo xff09 进程间通信必须通过内核提供的通道 1 匿名管道 匿名管道通过打开的文件描述符来标识的 用于具有亲缘关系间进程之间的通信 int pipe xff0
  • 《Hadoop基础教程》读后感

    Hadoop一直是我想学习的技术 xff0c 正巧最近项目组要做电子商城 xff0c 我就开始研究Hadoop xff0c 虽然最后鉴定Hadoop不适用我们的项目 xff0c 但是我会继续研究下去 xff0c 技多不压身 Hadoop基础
  • WSL2安装CentOS7和Xfce4桌面

    由于工作和学习需要 xff0c 需要在WSL中安装和配置CentOS7系统 1 安装和升级WSL 安装和升级WSL方法可看微软官方教程 本人是将电脑中的WSL升级到了WSL2 2 下载安装CentOS镜像 首先需要下载CentOS7镜像 x
  • 安装MySQL5.7没设置密码解决方法

    我在WSL的CentOS7系统中安装MySQL5 7后发现全程都没设置密码 为了加强安全性 xff0c MySQL5 7为root用户随机生成了一个密码 xff0c 在error log中 xff0c 关于error log的位置 xff0
  • WSL的CentOS7报错Failed to get D-Bus connection: Operation not permitted解决办法

    WSL的CentOS7使用systemctl和service命令时报错Failed to get D Bus connection Operation not permitted 解决办法是更换systemctl文件 首先备份systemc
  • Go的常用设计模式

    好记性不如烂笔头 xff0c 学习编程的最好方式就是自己把代码动手敲一遍 1 策略模式 xff08 strategy xff09 在实际应用中 xff0c 我们对不同的场景要采取不同的应对措施 xff0c 也就是不同的策略 定义一个接口 x
  • Go语言使用golang-jwt/jwt/v4进行JWT鉴权

    文章目录 1 什么是JWT2 JWT的数据结构2 1 Header2 2 Payload2 3 Signature2 4 Base64URL 3使用JWT安装生成Token 参考 xff1a 最近写的项目中用到了JWT鉴权 xff0c 因此
  • 安装zsh并配置oh my zsh,让你的Linux终端也有爆爽体验

    安装zsh并配置oh my zsh 让你的Linux终端也有爆爽体验 xff01 Oh My Zsh 是基于 zsh 命令行的一个扩展工具集 xff0c 提供了丰富的扩展功能 下载安装zsh设置默认shell安装Oh My Zsh安装插件启
  • WSL2 Ubuntu20.04安装xfce4桌面和中文输入法

    目录 WSL2安装xfce4配置 zshrc安装VcXsrv启动桌面安装中文输入法 WSL2 首先需要开启wsl并且版本升级为wsl2 xff0c 然后microsoft store中搜索ubuntu xff0c 安装ubuntu20 04
  • Oracle11g下载地址

    网上链接大多挂了 xff0c 下面这个链接实测可以下载 Oracle11g下载地址
  • 关于元学习收集资料杂乱整理2021.9.11

    元学习论文 xff1a https github com rootlu MetaLearning Papers 应用于 NLP 领域的 Meta few shot 学习方法的最新论文列表 https github com ha lins M