svm 支持向量机 回归 预测_SVM(支持向量机)

2023-11-17

1.什么是SVM?

首先支持向量机不是一种机器,而是一种机器学习算法。是一种监督学习算法,用来解决分类问题的。支持向量又是啥意思?通俗的理解就是,分类器中最靠近决策边界(Logistic回归里面提到过决策边界的概念)的那些点,也就是对决策边界起决定性作用的点,而其他点对这条划分直线的最终位置的确定起不了作用的。这些点就叫做支持向量。

1.1 官方定义

在 maximum margin (最大间隔)上的这些点就叫做“支持向量”。不理解不要紧,我们上图。如图,“支持向量” 就是图中用紫色框框圈出来的点。

支持向量

再来看分类器的表达式,最后的表达式里只含有这些 “支持向量” 的信息,而与其他数据点无关:

1.2 线性可分数据

来看图:图中的两组数据,它们之间已经分的足够开了,因此很容易就可以在图中画出一条直线将两组数据点分开。在这种情况下,这组数据就被称为线性可分数据,这条直线就是决策边界。做二维空间里,凡是线性可分的模型的决策边界都是一条直线。如果是高维空间,决策边界是一个超平面,分布在超平面一侧的所有数据都属于某个类别,而分布在另一侧的所有数据则属于另一个类别。

线性可分数据

2. 间隔

其实我们可以找到无数条直线把图中的两类点分开,如图a。但是我们希望能找到一条最好的直线来构建分类器,使其分类结果鲁棒性最好。即如果数据点离决策边界越远,那么其最后的预测结果也就越可信。如图b中的黑色直线,即离他最近的那些点离他的距离尽可能远。既然这样,我们希望找到离分隔超平面最近的点,确保它们离分隔面的距离尽可能远。这里所说的点到分隔面的距离就是间隔,如图b中的黄色区域,这个间隔就是最大间隔。我们希望间隔尽可能地大,这是因为如果我们犯错或者在有限数据上训练分类器的话,我们希望分类器尽可能健壮。支持向量就是离分隔超平面最近的那些点。

图a:可以找到无数条直线分开两类数据点

图b:黄色区域是最大间隔

2.1 怎么求最大间隔?

如图:任意在红色直线

上取两个点
,则有:

两式相减得到:

所以

是直线
的法向量

如图:在法向量

的方向上的直线与两条直线
的交点分别为
,则有:

将3个式子整理得到:

此时此刻我们得到了

这就是
最大间隔

别忘了我们还有约束条件哦

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

svm 支持向量机 回归 预测_SVM(支持向量机) 的相关文章

  • WiFi密码别问了,这神器帮你搞定一切!

    我们经常会遇见朋好去你家做客 第一句就是问你家WiFi 密码 如果密码负责不仅说的麻烦 还有可能暴露自己的密码 毕竟很多人密码都喜欢设置的一样 但是今天这个GitHub 工具WiFi Card完全就能解决这个问题 这个工具就是把 WiFi
  • C++小白课本练习4

    练习目录 ConsoleApplication1 h 头文件定义类 Student myDate Student 类 myDate 类 第二章课本测试3验证类功能的驱动程序 cpp 第二章课本测试4使用指针的方式驱动程序 cpp 第二章课本
  • mysql数据库中文乱码的问题

    今天下午 在Qt中往mysql数据库中插入数据时 中文显示乱码 如下图所示 开始以为是数据库字符编码的问题 1 使用set character set database utf8 在命令行上修改字符编码 但是重启mysql之后 字符编码并没
  • Centos7系统防火墙使用教程【详解】

    CentOS 7是一种常见的Linux操作系统 防火墙作为网络安全的第一道防线 对于服务器的安全至关重要 本文将介绍CentOS 7系统中防火墙的使用教程 包括如何开启 关闭 配置以及防火墙规则的添加和删除 一 查看防火墙状态 在开始操作之
  • 关于Android Service真正的完全详解,你需要知道的一切

    Service全部内容基本会在本篇涉及到 我们将围绕以下主要知识点进行分析 Service简单概述 Service在清单文件中的声明 Service启动服务实现方式及其详解 Service绑定服务的三种实现方式 关于启动服务与绑定服务间的转
  • Verilog--CDC跨时钟域处理(快时钟域到慢时钟域)

    Verilog CDC跨时钟域处理 快时钟域到慢时钟域 CDC问题 单比特信号的跨时钟域问题 从快时钟域到慢时钟域 从慢时钟域到快时钟域 多比特信号的跨时钟域问题 异步FIFO 握手协议 DMUX 格雷码 双D触发器 今天先写单比特信号从快
  • 开始前准备

    开始前准备 一 环境预览 二 安装Ubuntu 三 安装arm gcc工具链 四 Ubuntu构建LiteOS所需要的工具链 五 安装STM32CubeMX软件 六 串口调试助手下载 七 ST Link和USB转TTL串口调试工具 一 环境
  • Express_2 Express Generator

    本文为课程笔记 总体来说 express generator可以帮助我们快速搭建一个express环境 首先 要将它安装在全局环境里 npm install express generator g 然后 就可以使用express 项目名 创
  • 数组入门练习:螺旋遍历二维数组

    NC38 螺旋矩阵 给出一个 n n n 行 m m m 列的二维数组 按螺旋的顺序返回矩阵中的所有元素 比如 输入为 1 2 3 4 5 6 7 8 9 输出为 1 2 3 6 9 8 7 4 5 观察上图
  • 关于mmsegmentation的自定义数据集格式的一些坑(2)

    这次又有任务要跑mmseg 我本意是拒绝的 奈何老板喜欢 mm系列的东西 那一套流程 真心玩不转 玩着玩着心就累了 mm系列和detectron差不多 要找其代码流转 都是要先看配置文件 比较麻烦 需要一定的经验 然后前面两篇都写了我是怎么
  • Android SELinux

    Google参考链接 https source android com docs core architecture aidl aidl hals sepolicy A 通信框架SE文件修改 public attributes vendor
  • 【canal系】canal集群异常Could not find first log file name in binary log index file

    这里先说明下这边使用的canal版本号为1 1 5 在描述这个问题之前 首先需要简单对于canal架构有个基本的了解 canal工作原理 canal 模拟 MySQL slave 的交互协议 伪装自己为 MySQL slave 向 MySQ
  • 详解@Override注解

    目录 1 是什么 2 为什么用 3 举例说明 1 示例一 2 示例二 3 示例三 1 是什么 Override注解是伪代码 用于表示被标注的方法是一个重写方法 Override注解 只能用于标记方法 并且它只在编译期生效 不会保留在clas
  • QT中添加Q_OBJECT出现的问题

    Multiple Inheritance Requires QObject to Be First 多重继承QObject一定要放在前面 我在用class My Node public QGraphicsItem public QObjec
  • 产业互联网-构建智能+时代数字生态新图景

    在2019腾讯全球数字生态大会新闻发布会上 腾讯云联合腾讯研究院 共同发布了行业重磅报告 产业互联网 构建智能 时代数字生态新图景 报告首次阐述了产业互联网的战略框架和实践方法论 报告指出 产业互联网的实现 需要跨界共建数字生态共同体 形成
  • linux安装telnet工具下载,Linux下安装telnet的方法

    一 安装telnet 1 检测telnet server的rpm包是否安装 root localhost rpm qa telnet server 若无输入内容 则表示没有安装 出于安全考虑telnet server rpm是默认没有安装的
  • NestedScrolling机制(一)——概述

    http blog csdn net al4fun article details 53888990 如今 NestedScrolling机制 可以称为嵌套滚动或嵌套滑动 在各种app中的应用已经十分广泛了 下图是 饿了么 中的一个例子 当
  • 虹膜识别 Iris_Osiris_v4.1源码,mfc测试用例

    01 资源 win10 vs2015 git opencv3 3 0 cmake 参考虹膜识别文档 开源虹膜识别软件OSIRIS4 1的使用入门 将开源虹膜识别算法OSIRIS4 1移植到Windows opencv3 3 0的配置参考 也
  • Leetcode 202. 快乐数(找规律注意回环)

    快乐数 编写一个算法来判断一个数 n 是不是快乐数 快乐数 定义为 对于一个正整数 每一次将该数替换为它每个位置上的数字的平方和 然后重复这个过程直到这个数变为 1 也可能是 无限循环 但始终变不到 1 如果 可以变为 1 那么这个数就是快

随机推荐

  • 记录几个CentOS安装包(rpm)的下载地址-离线安装必备

    1 http rpmfind net linux RPM index html 2 https centos pkgs org 3 http mirror centos org centos 7 extras x86 64 Packages
  • Java处理SSH

    JSch 登录 密码方式 session setPassword password 公私秘钥方式 jsch addIdentity ssh id rsaxxx SFTP简介 SFTP是Secure File Transfer Protoco
  • 【YOLOv7/YOLOv5系列算法改进NO.49】模型剪枝、蒸馏、压缩

    文章目录 前言 一 解决问题 二 基本原理 三 剪枝操作 四 知识蒸馏操作 前言 作为当前先进的深度学习目标检测算法YOLOv7 已经集合了大量的trick 但是还是有提高和改进的空间 针对具体应用场景下的检测难点 可以不同的改进方法 此后
  • go 设置 GOROOT 和 GOPATH

    点击在我的博客 xuxusheng com 中查看 有更好的排版哦 发表失败全部丢失 写完了又重写一遍 csdn 都没个自动保存功能 强烈吐槽 go 里面有两个非常重要的环境变量 GOROOT 和 GOPATH 其中 GOROOT 是安装
  • linux CPU性能监控(进阶)和杂谈

    线程与进程的区别 进程 是执行一段程序 即一旦程序被载入到内存中准备执行 它就是一个进程 线程 单个进程中执行每一个任务就是一个线程 一个线程只属于一个进程 一个进程里可以有多个线程 上下文切换 在处理器执行期间 运行进程的信息被存储在处理
  • javax.net.ssl.SSLException: Received fatal alert: protocol_version

    最近需要第三方回传数据到自己的地址 发现调不通 如下 1 第三方错误提示 根据提示是请求时所用的tls协议版本与目标地址所能使用的不一致 2 第三方查看代码中所有的tls版本 查看目标地址所能支持的tls版本 nmap script ssl
  • Python的十二道编程题,码住战胜一切

    一 计算文件大小 import os def get size path size 0 l path while l path l pop lst os listdir path for name in lst son path os pa
  • Visuial Studio 打开 Unity 新建脚本时,新脚本继承MonoBehaviour暂时失效为白色的解决方法

    点击 文件 gt 最近使用的项目和解决方案 gt 点击当前项目 即可瞬间重载当前项目 这个时候 白色的MonoBehaviour会变成绿色 就可以了 当然最传统的方法就是关掉VS再打开 不过挺浪费时间的
  • umijs框架加载cesium

    创建umi项目 yarn create umi 选择app 选择是否使用typescript N 选择依赖 yarn yarn start 项目创建完成后 添加cesium yarn add cesium 下载版本是1 67 不同版本配置方
  • 【Android】替换系统默认字体

    android系统默认字体分类 DroidSans ttf 系统默认英文字体 DroidSans Bold ttf 系统默认英文粗字体 DroidSansFallback ttf 系统默认中文字体 为系统新增字体 1 复制字体到framew
  • python机器学习之支持向量机——线性SVM决策过程的可视化案例

    线性SVM决策过程的可视化 1 导入需要的模块 from sklearn datasets import make blobs from sklearn svm import SVC import matplotlib pyplot as
  • QT中on_pushButton_clicked()用法

    在Qt里按钮控件默认对应一个on pushButton clicked 成员 如果想用点击信号 在代码中实现on pushButton clicked 成员即可 最近看了一段代码 里面并没有connect函数 只定义了pushbutton
  • 互联网编程之多线程/线程池TCP服务器端程序设计

    目录 需求 多线程TCP服务器 线程池TCP服务器 测试 日志模块 需求 多线程TCP服务器 30分 设计编写一个TCP服务器端程序 需使用多线程处理客户端的连接请求 客户端与服务器端之间的通信内容 以及服务器端的处理功能等可自由设计拓展
  • 若依框架注册新用户同时设置默认角色

    前提 开启注册 环境 ruoyi vue 3 8 5 如使用其他版本的ruoyi框架 操作可能不相同 操作 1 ruoyi system src main java com ruoyi system service impl SysUser
  • 【算法】离散傅里叶变换(DFT)

    真实的系统是会离散的 时变的 理想者将瞬时态看成时线性的系统 将时变系统分成了不同阶段 离散在围观层面是连续的 但从表层感受时 变化是迅猛的 可以忽略不计变化的过程 因而成为了离散 一 离散系统 离散控制系统是指在控制系统的一处或数处信号为
  • 排座位(并查集)

    如果这一题蛮力求解 会很复杂 关系网都能把自己弄晕 所以采取简化的算法 并查集 所以你需要弄清楚并查集算法 概念 即支持对集合进行合并和查询的一个数据结构 合并 将元素a和元素b所在的集合合并成一个集合 查询 查询a和b是否为同一集合 如图
  • 刷题之搜索插入位置

    给定一个排序数组和一个目标值 在数组中找到目标值 并返回其索引 如果目标值不存在于数组中 返回它将会被按顺序插入的位置 请必须使用时间复杂度为 O log n 的算法 来源 力扣 LeetCode 链接 https leetcode cn
  • (matlab实现)sigmoid函数和tanh函数以及ReLU函数

    1 logsig函数即是logistic Regression 逻辑回归 中的sigmoid函数 logsig函数表达式为 matlab实现 figure NumberTitle off Name Sigmoid函数 x 10 0 1 10
  • 香港服务器速度快的原因

    香港服务器速度快的原因 BGP线路简单来说就是将电信 联通 移动等多家运营商的网络融合在一起的线路 一 区别于三线带宽 BGP线路为多线单IP 利用特定的路由器做自动解析 然后通过每个供应商独有的AS号来实现互联互通 在访问速度方面比三线三
  • svm 支持向量机 回归 预测_SVM(支持向量机)

    1 什么是SVM 首先支持向量机不是一种机器 而是一种机器学习算法 是一种监督学习算法 用来解决分类问题的 支持向量又是啥意思 通俗的理解就是 分类器中最靠近决策边界 Logistic回归里面提到过决策边界的概念 的那些点 也就是对决策边界