元学习和机器学习的对比

2023-05-16

目录

  • 引言
  • 机器学习
  • 元学习
    • 什么是元学习
    • 元学习的流程
      • 学习学习函数
      • 评价学习函数好坏
      • 迭代优化
    • 整体框架
  • 元学习和机器学习的对比
    • 定义的区别
    • 数据集划分的区别
    • 损失函数的区别
    • 两者之间的共通之处
  • 总结

引言

本篇博客是李宏毅老师元学习课程的笔记。
在这里插入图片描述
在这里插入图片描述
深度学习大部分时间在调参数。在业界通常有很多计算资源供我们进行调参,在学界我们通常靠心灵感应来设置一组好的超参数。

机器学习

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

元学习

什么是元学习

在这里插入图片描述
Meta Learning被称作元学习,和机器学习一样遵循那三个步骤,不同于Machine Learning的目标是让机器能够学习,Meta Learning则是要让机器学会如何去学习

元学习的流程

学习学习函数

在这里插入图片描述
训练资料是多个训练任务数据和它们对应的学习
以梯度下降算法为优化算法的网络为例,它的流程可以简述为:设计一个网络架构->给参数初始化->读入训练数据批次->计算梯度->基于梯度更新参数->进入下一轮训练->……。对于每一个具体的任务来说,它的全部算法流程就构成了一个 F ϕ F_{\phi} Fϕ。其中 ϕ \phi ϕ就是我们要学习的可学习的参数(通常包括网络结构、初始参数、学习率…)。

评价学习函数好坏

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

  • 机器学习用训练资料计算损失函数
  • 元学习用训练任务的测试资料计算损失函数

迭代优化

在这里插入图片描述
当我们无法计算梯度的时候,我们可以采用强化学习和进化算法

整体框架

在这里插入图片描述
在这里插入图片描述
元训练:
分为内层和外层优化,外层用于学算法参数,内层用于学模型参数,内层是给出 w w w学出 θ ∗ \theta^* θ,把 θ ∗ \theta^* θ拿到查询集中,验证学的怎么样,如果不好,说明 w w w不好,通过loss去更新 w ∗ w^* w,不断迭代。
元测试:
已经学到最好的算法后,在测试集的支撑集上去学一个模型,最终, θ ∗ \theta^* θ就是测试模型。

元学习和机器学习的对比

定义的区别

在这里插入图片描述

  • 机器学习的定义表述为:根据资料找一个函数 f f f的能力
  • Meta Learning的定义表述为:根据资料找一个找一个函数 f f f的函数 F F F 的能力

数据集划分的区别

在这里插入图片描述

  • 机器学习:训练资料用于一个任务
  • 元学习:训练资料被分为多个训练任务,每个训练任务包含一个支持集和一个查询集

在这里插入图片描述

在这里插入图片描述

损失函数的区别

在这里插入图片描述
在这里插入图片描述

两者之间的共通之处

在这里插入图片描述

  • 训练任务上的过拟合(训练集上的过拟合)
  • 更多的训练任务可以改善性能(更多的训练数据可以改善性能)
  • 任务增强(数据增强)
  • 学习学习算法时也会有超参数(学习算法时有超参数)
  • 验证任务(验证集)

总结

本篇博客主要介绍了元学习的基本概念、元学习的建模流程以及元学习和机器学习的对比。
元学习将数据以任务的形式进行划分,将数据集分为很多个任务。而这些任务在类别上又可以分为训练任务测试任务。每个任务自身可以分为支持集查询集
元学习不是学习一个函数,而是学习一个学习函数。
以分类任务为例:通过训练任务中的支持集进行训练得到一个学习函数,通过学习得到一个分类器,通过训练任务的查询集进行测试,计算预测值和标签的损失函数,以最小化目标函数进行优化,训练得到学习函数。测试任务的支持集用来根据学习函数训练分类器,测试任务的支持集用来进行测试。

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

元学习和机器学习的对比 的相关文章

  • UI自动化之获取设备号及package

    span class token comment coding 61 utf 8 span span class token keyword import span os span class token punctuation span
  • Verilog 代码编写 状态机-序列检测

    题目 xff1a 有一种特殊的串行通信系统 xff0c 数据以包的形式传输 xff0c 数据的包头为 01111110 xff0c 然后为数据内容 xff0c 然后 01111110 结尾 xff0c 现在需要编写程序 xff0c 完成数据
  • 电脑相机不能使用,出现的灰色画面上有一个相机标志加一斜杠的解决办法

    64 TOC 电脑相机不能使用 xff0c 出现的灰色画面上有一个相机标志加一斜杠的解决办法 这是我第一次发博客 xff0c 写的不好 xff0c 请见谅 因为我也出现过这个问题 xff0c 依照网上搜索的方法去尝试 xff0c 但是都没有
  • Github Copilot的申请及在Pycharm的配置和使用

    文章目录 目录Github Copilot的申请及在Pycharm的配置和使用2022 06 29更新1 简介2 copilot首页3 copilot的申请4 GitHub Copilot 官方使用文档5 PyChram下载地址6 Pych
  • C语言程序设计(第五章 数组)

    C语言程序设计 xff08 第五章 数组 xff09 1 一维数组 xff08 1 xff09 数组是一组有序数据的集合 xff08 2 xff09 用一个数组名 xff08 如s xff09 和下标 xff08 如15 xff09 来唯一
  • CCF计算机软件能力认证202112-1序列查询(C语言版)

    ccf csp计算机软件能力认证202112 1序列查询 C语言版 题目内容 xff1a 试题背景 问题描述 输入格式 输出格式 样例1输入 span class token number 3 span span class token n
  • c#第一天

    Net Net 平台 和 Net FrameWork 框架 xff1a Net FrameWork 框架 xff08 CLR 公共语言运行时 xff0c Net 类库 xff09 交互模式 C S xff1a 客户机 Client 服务器
  • Java输入数判断是否为回文数

    最近看黑马的Java 顺带做了些课后练习 xff0c 感觉代码还是得自己多打打 xff0c 记录比较简陋 import java util Scanner public class HuiWeng public static void ma
  • copilot申请使用流程(自用)

    整体流程 1 申请github学生包 申请网址 xff1a https education github com 2 copilot学生申请 申请网址 xff1a https copilot github com 3 IDE下载插件配置 下
  • 在VMware Workstation以及云服务器上安装华为FusionCompute

    文章目录 前言使用镜像安装CNAVMware Workstation配置虚拟机步骤一步骤二步骤三步骤四步骤五步骤六步骤七步骤八步骤九步骤十步骤十一步骤十二步骤十二 云服务器远程登录CNA安装步骤一 xff1a 开始安装步骤二 xff1a 配
  • 华为FusionCompute:虚拟机创建与配置

    文章目录 前言创建裸虚拟机删除虚拟机导入虚拟机虚拟机规格调整CPU热添加内存热添加磁盘扩容添加网卡查看 虚拟机配置对象权限 前言 如何在CNA中创建虚拟机 xff0c 创建虚拟机的方法有多种 创建的好的虚拟机我们可以进行虚拟机规格的调整 x
  • Postman接口之token获取及数据关联和断言

    1 环境变量的创建及使用 2 变量名设置 xff0c 点击上一步的环境变量 xff0c 弹出下面的页面 xff1a 3 设置完后记得选择对应的环境变量 4 查看接口运行后参数是否存入到环境变量中 xff1a 好了基础设置如上 xff0c 下
  • OSPF(六)OSPF特殊区域之Stub和Totally Stub区域详解及配置

    文章目录 前言Stub区域和Totally Stub区域传输区域和末端网络Stub Area配置命令 Totally Stub Area配置 整体实验配置过程及命令步骤一 xff1a 搭建拓扑步骤二 xff1a 配置路由器接口IP地址步骤三
  • OSPF(二)DR与BDR选举

    文章目录 MA网络中的问题DR amp DBRDR与BDR的选举 MA网络中的问题 在运行OSPF的MA网络包括广播型网络和NBMA网络 xff0c 都会存在两个问题 在一个有n个路由器的网络 xff0c 会形成 n n 1 2个邻接关系
  • 防火墙详解(三)华为防火墙基础安全策略配置(命令行配置)

    实验要求 根据实验要求配置防火墙 xff1a 合理部署防火墙安全策略以及安全区域实现内网用户可以访问外网用户 xff0c 反之不能访问内网用户和外网用户均可以访问公司服务器 实验配置 步骤一 xff1a 配置各个终端 防火墙端口IP地址 终
  • 常见信息安全威胁与经典案例

    文章目录 信息安全威胁现状网络战争的开端 xff1a 震网 病毒信息安全攻击事件的演变安全威胁分类 网络安全威胁案例美国Dyn DNS服务遭受DDoS攻击Mirai病毒发动攻击过程 xff08 DDos攻击过程 xff09 扫描获取控制权限
  • 华为FusionCompute详解(一)FusionSphere虚拟化套件介绍

    文章目录 虚拟化FusionSphere虚拟化套件特点管理简单性能至优 FusionSphere虚拟化套件组成FusionSphere服务器虚拟化架构FusionSphere架构特点与用途FusionSphere应用场景单虚拟化场景多虚拟化
  • 华为FusionCompute详解(二)FusionCompute总体介绍以及规划部署

    文章目录 FusionCompute产品定位FusionCompute产品架构FusionCompute软件逻辑组成 FusionCompute产品功能虚拟化计算虚拟化存储虚拟化网络 FusionCompute带来的价值FusionComp
  • Docker基础篇(1)

    文章目录 Docker简介是什么概念容器VS虚拟机能干什么技术职级变化一次构建 xff08 镜像 xff09 xff0c 到处运行 xff1a 去哪下 Docker简介 是什么 为什么会有Docker出现 xff1a 解决重复的环境部署开销
  • openStack:学习openStack的前提知识(1)虚拟化以及KVM简介

    文章目录 KVM简介KVM核心组件Libvirt组件 KVM简介 KVM 目前X86平台上最热门 xff0c 运用最多的虚拟化解决方案 xff0c openStack对KVM支持也是最好的 所以后续使用KVM作为Hypervisor xff

随机推荐

  • 解决WSL2/ubuntu安装软件报错 E: Invalid operation insatll 问题

    文章目录 解决WSL2安装软件报错E Invalid operation insatll 问题方法一方法二 解决WSL2安装软件报错E Invalid operation insatll 问题 此问题为系统定位不到软件包 xff0c 无法安
  • github-copilot的使用步骤

    1 首先登录你的github账号 xff0c 点击头像 xff0c 点击设置 2 在设置界面点击Copilot 并点击try Colilot 3 点击绿色按钮继续 4 设置为允许 xff0c 并取消允许使用你的代码来改进这一选项 xff0c
  • Arduino IDE配置esp8266开发环境

    目录 前言arduino IDE安装配置ESP8266开发环境通过开发板管理器安装手动安装开发版管理器备用的网址 参考 前言 之前本科那会疫情在家用esp8266 ESP 01s Relay模块做了一个远程浇花的设备 xff0c 当时使用a
  • 三、Ubuntu 18.04系统调试(命令/换源)

    目录 一 常用命令 二 Ubuntu 18 04换源 2 1便捷方法 2 2命令行方法 xff08 较为复杂 xff0c 但可查看防止后期有些错误是因为源导致的源文件 xff09 一 常用命令 目录操作 pwd 查看当前目录 cd 返回上一
  • 使用VScode远程操作虚拟机(ubuntu)

    1 VSCode安装 2 打开Ubuntu 使用ifconfig 获取系统接口 3 打开remote ssh 4 配置好相关属性 5 开启远程连接输入密码即可连接
  • 学习率(Learing Rate)的作用以及如何调整

    1 什么是学习率 学习率 Learning rate 作为监督学习以及深度学习中重要的超参 xff0c 其决定着目标函数能否收敛到局部最小值以及何时收敛到最小值 合适的学习率能够使目标函数在合适的时间内收敛到局部最小值 这里以梯度下降为例
  • Pytorch 中net.train() 和 net.eval()的作用和如何使用?

    一般在训练模型的代码段加入 xff1a model train 在测试模型时候加入 xff1a model eval 同时发现 xff0c 如果不写这两个程序也可以运行 xff0c 这是因为这两个方法是针对在网络训练和测试时采用不同方式的情
  • Qt 子窗口内嵌到父窗口中

    有时需要把一个子窗口内嵌进入父窗口当中 我们可以这样做 1 新建一个QWidget 或者QDialog的子类 ClassA xff08 父类为ClassB xff09 2 在新建类的构造函数中添加设置窗口属性 setWindowFlags
  • 用Cmake 编译OpenCV常见的错误

    minGW32 make遇到的错误1 xff1a 37 Linking CXX shared library bin libopencv core341 dll CMakeFiles opencv core dir objects a me
  • 卷积 反卷积 上采样 下采样 区别

    1 卷积 就是利用卷积核 步长前进 卷积整个图片 2 反卷积 反卷积的具体操作 原图输入尺寸为 1 xff0c 3 xff0c 3 xff0c 3 对应 batch size channels width height 反卷积tconv 6
  • Go语言操作数据库MySQL

    连接 Go语言中的database sql包提供了保证SQL或类SQL数据库的泛用接口 xff0c 并不提供具体的数据库驱动 使用database sql包时必须注入 xff08 至少 xff09 一个数据库驱动 我们常用的数据库基本上都有
  • 解决Git请求错误问题

    git clone gits github com Cloning into 39 FdogSerialize 39 git 39 remote gits 39 is not a git command See 39 git help 39
  • Reactor 模式

    Reactor 翻译过来的意思是 反应堆 xff0c 可能大家会联想到物理学里的核反应堆 xff0c 实际上并不是的这个意思 这里的反应指的是 对事件反应 xff0c 也就是来了一个事件 xff0c Reactor 就有相对应的反应 响应
  • MATLAB画图调整分辨率

    问题 xff1a 经常需要用MATLAB画图 xff0c 但是保存之后分辨率不高 xff0c 特别是需要放大的情况下 解决 xff1a 对于下面这种画出的图形 选择 文件 61 gt 导出设置 61 gt 渲染 61 gt 分辨率 选择60
  • C语言中常见的逻辑错误

    常见错误一 xff1a 61 和 61 61 混在一起 int main int ret if ret 61 1 return 0 结果 xff1a 变量被错误赋值 xff0c 逻辑判断错误 错误二 xff1a 定义较大的全局变量造成 编译
  • Qt中常见的位置和尺寸

    QPoint类的介绍 QPoint 类封装了我们常用用到的坐标点 x y 常用的 API 如下 构造函数 构造一个坐标原点 即 0 0 QPoint QPoint 参数为 x轴坐标 y轴坐标 QPoint QPoint int xpos i
  • 关于QT线程运用的三种方式

    QThread 类函数 QThread 类常用 API 构造函数 QThread QThread QObject parent 61 Q NULLPTR 判断线程中的任务是不是处理完毕了 bool QThread isFinished co
  • 安装Ubuntu22.04+nvidia驱动+CUDA-11.7+GRPMACS patch PLUMED

    首先是Ubuntu22 4的安装 Ubuntu系统一般直接可以使用RUFUS软件制作U盘启动项 xff0c 再依照顺序安装Ubuntu系统 xff0c 这里不赘述 CUDA 11 7 span class token function su
  • Linux部署Nexus私服

    这篇文章主要介绍了Linux搭建自己Nexus私服的实现方法 xff0c 文中通过示例代码介绍的非常详细 xff0c 对大家的学习或者工作具有一定的参考学习价值 一 Nexus介绍 对maven来说仓库分为两类 xff1a 本地仓库和远程仓
  • 元学习和机器学习的对比

    目录 引言机器学习元学习什么是元学习元学习的流程学习学习函数评价学习函数好坏迭代优化 整体框架 元学习和机器学习的对比定义的区别数据集划分的区别损失函数的区别两者之间的共通之处 总结 引言 本篇博客是李宏毅老师元学习课程的笔记 深度学习大部