集成学习笔记

2023-11-08

集成学习通过结合规则,使用一系列弱学习器来组成一个强学习器

集成学习通常有两个步骤,ensemble generation 和 ensemble integration ,通常在两个步骤之间会有一个 pruning process 剪枝过程

ensemble generation

是使用训练数据获得多个弱学习器的过程,产生的弱学习器叫做 base learner/models 基学习器,可以是同构的也可以是异构的,通常同构的情况更容易分析,所以较为普遍,有两种方式可以获得基学习器,序列化的或者说串行产生的是 boosting 对应于 sequentially,并行获得的是 bagging 对应的是 parallel

ensemble integration

是使用一定的组合规则,将基学习器组合成一个强的学习器

最简单的做法就是求平均,将所有基学习器的答案,去一个平均值,该方法适用于数值预测类的问题,或者说是回归问题

另一个比较简单的方法是投票,类似于ABCD四个选项,如果大部分学习器都选择了A,那最后就按A答案来,所以该方法更适合于分类问题

最后一个基本策略就是再找一个学习器来融合其他学习器的结果,这类方法属于stacking

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

集成学习笔记 的相关文章

随机推荐

  • C++ Pat甲级1007 Maximum Subsequence Sum (25 分)(dp)

    1007 Maximum Subsequence Sum 25 分 Given a sequence of K integers N 1 N 2 N K A continuous subsequence is defined to be N
  • 什么是Web3 ?它是如何工作的?

    Web3提供了一种潜在的解决方案 可以更容易地在万维网上找到内容的原始来源 我们将讨论Web 3是什么以及它是如何工作的 万维网一直以来都是一个不受限制地创造和分享信息和思想的平台 虽然这让世界感觉更小 但它也有它的缺点 即难以确定内容的原
  • 计算机图形系统相关的输入设备,计算机图形学题目及答案

    5 20 边标志填充算法是用什么作为标志 如何实施填充的 边标志填充算法利用边界色作为标志来进行填充 当扫描线从左到右扫描时碰到边界色 立刻改变标志的状态 再根据标志的状态决定某象素点是否填充 21 将扫描线种子填充算法由实面积填充改为图案
  • 【VMware/Linux】虚拟机根目录扩容

    大家好 我是好学的小师弟 最近IT给配的虚拟机 目录容量太小了 不符合环境部署条件 所以想让IT扩下容 IT给我加了一块磁盘 然后让我自己lvm扩容去 这里记录下扩容方法 1 先添加一块磁盘 这里添加了一块磁盘sdr fdisk l 查看新
  • 数据结构与算法分析--Java语言描述(第二章(2))

    习题2 23 不用递归 写出快速求幂的程序 递归方法 param x param n return public long pow long x int n if n 0 return 1 if isEven n return pow x
  • VSCODE-版本控制工具SVN

    1 在SVN中安装插件 SVN svn简介 安装完成后 重新启动SVN或者点击SVN 重新加载 本人SVN不是默认安装位置 但是无需修改vscode 用户设置 中的任何选项 2 引入项目 直接打开通过SVN下载的项目的文件夹 3 查看SVN
  • eclipse指定jdk版本启动,解决Version XXXX of the JVM is not suitable

    可以解决Version XXXX of the JVM is not suitable for this product Version XXXXXX or greater is required 例如 Verson1 7 0 79 of
  • 【Vue】同一模板 多个样式 统一实现

    文章目录 一 背景 二 具体代码 一 背景 项目中多个页面的页脚都包含版权信息 并且各自有一个 Copyright vue 的组件 经过对比 template 的内容一模一样 只是样式有些不同 这里准备抽取出来 用一个公共组件 CopyRi
  • 你的电脑上的应用需要使用以下window功能.NET Framework3.5(包括.NET2.0和3.0)

    我自己下载了 net 3 5来安装他也提示这玩意 然后点自动安装后又错误码0x800f081f 奶奶滴 于是去百度 解决流程 1 首先 按Windows R调出 运行 对话框 2 接下来 键入gpedit msc并按Enter 3 该命令将
  • pytorch将Tensor转为list

    import torch value torch Tensor 1 2 3 print list value tolist 得到 list 1 0 2 0 3 0
  • promise与async和await的使用

    基础回顾 阻塞代码实例 首先 我们新建一个 test txt 文件 内容如下 111 然后 我们来编写一个 main js 文件 代码如下 var fs require fs var str fs readFileSync test txt
  • css button自动调整位置_(Vue动效)1.Vue的CSS过渡动效

    关键词
  • JAVA个推----将信息推送至手机端

    个推功能简介 将信息推送至手机端 手机端人员可以看到收到的信息 个推功能需要借助第三方平台的接口 需要申请账号 单独开发很难完成 这里就是用到了第三方接口 完成个推需要完成三步 获取token 调用个推接口需要获取用于验证的token 获取
  • 前端歌谣的刷题之路-第二十二题-基本数据类型检测

    前言 我是歌谣 歌谣的意志是永恒的 放弃很容易 但是坚持一定很酷 本题目源自于牛客网 微信公众号前端小歌谣 题目 请补全JavaScript函数 要求以字符串的形式返回参数的类型 注意 只需检测基本数据类型 编辑 核心代码
  • 自动驾驶制图中的深度学习

    点击上方 小白学视觉 选择加 星标 或 置顶 重磅干货 第一时间送达 深度学习在整个自动驾驶技术的各个部分中进行了应用 例如在感知 预测和计划中都有应用 同时 深度学习也可以用于制图 这是高级自动驾驶的关键组成部分 拥有准确的地图对于自动驾
  • Siebel学习笔记

    Siebel escript 的学习 1 Siebel的数据类型 Primitive 原始的 Number Integer Hexadecimal 十六进制 Octal 八进制 Floating Point 浮点 Decimal 十进制 S
  • 面试总结(1)---7.28

    Ajax关于readyState 状态值 和status 状态码 的研究 var getXmlHttpRequest function try 主流浏览器提供了XMLHttpRequest对象 return new XMLHttpReque
  • 解决wiringPi库与64位树莓派之间不兼容的问题

    目录 一 问题现象 二 解决方案 网站 可以直接点这下载 一 问题现象 今天在练习wiringPi库的使用时候 在最后编译的时候出现了这个问题 主要问题是这个skipping incompatible skipping incompatib
  • Android上OpenCV物体检测,Opencv图像识别Android实战(识别纸牌4.图像识别素养)

    我认为大多数阅读本文的人都对机器学习有所了解 我认为没有必要在学术上解释这种含义 人类学习的目的不是识别更多的东西 机器学习也是如此 也就是说 让计算机通过学习类比来学习更多的东西 在这里 我们让计算机知道图像 要让计算机知道事情 我们必须
  • 集成学习笔记

    集成学习通过结合规则 使用一系列弱学习器来组成一个强学习器 集成学习通常有两个步骤 ensemble generation 和 ensemble integration 通常在两个步骤之间会有一个 pruning process 剪枝过程