float的精度和取值范围

2023-05-16

文章目录

  • 前言
  • 精度限制
  • float存储方式
  • float存储示例
  • float范围
  • float精度
  • float小数
  • float特殊值
  • 总结

前言

关于float的精度和取值范围这个问题,我查询了很多次,每次都是用完就忘了,等到再使用的时候还需要再次查询,关键是这个问题大家给出的结果并不都是一致的,我得从众多的资料当中选择出正确的观点,这还要额外花一些时间,所以我决定也总结一次,方便我以后拿来直接用了,如果能给大家带来帮助那就更好了。下面提到一些说法很多都是我个人的理解,如果大家有疑义,欢迎讨论。

精度限制

首先考虑下为什么会产生精度问题,是因为存储数据的空间有限,以一个四字节整数int n;为例,一共有32位,取值范围是 [-2147483648‬, 2147483647] ,一共是4,294,967,296种可能,它的精度可以说是小数点后一位都不保留,也就是只有整数,换句话说变量n可以表示实数范围内的4,294,967,296个数值。

如果换成float类型呢?一个变量float f所能表示多少个数呢?实际上由于存储空间未发生变化,同样是4字节32位,那么float类型也只能表示,或者说精确表示4,294,967,296个数值(真实情况由于一些特殊的规则,最终所表示的数字个数还要少),说到这里很多人可能会疑惑,因为他知道float可以表示比4,294,967,296大的数,同时也能表示小数,如果只有4,294,967,296种可能,那究竟是怎么做到的呢?

这里也就开始提到精度了,整数很好理解,每个数字的间隔都是1,int类型所表示的4,294,967,296个数字都是等间距的,步长为1。而float也只能表示4,294,967,296个数字,同时要表示比int还大的范围,一个很直观的想法就是把间距拉大,这样范围就大了,但是float还要表示小数,像0.2、0.4这样的数字间距明显要小于1啊,想要存储小数貌似要把间距缩小,这就和前面矛盾了啊。

实际上float类型存储数据的间隔不是等间距的,而是在0的附近间距小,在远离0的位置间距大,为什么会这样,一会我们看一下float类型数据的存储规则就明白了,这里先来看一下int类型和float类型所表示数字的范围对比,这只是一个示意图。

//int
           [ *         *         *         0         *         *         * ]
//float
[ *          *    *    *   *  *  * * * * * 0 * * * * *  *  *   *    *    *          * ]

上面的示意图就是两者表示数字范围的差异,每个星号*就表示一个数字,float通过这种不等间距的分布,既扩大了范围也表示了小数,那么有没有问题呢?

当然有问题,饭就这么多,人多了自然不够吃了,因为远离0的位置间距越来越大,当要表示间距中间的一个数字时,只能找它附近离它最近的一个可以表示的数字来代替,这就导致了精度问题,比如我给一个float类型变量分别赋值为 4294967244 和 4294967295 ,再次输出时都变成了 4294967296,因为超过了精度,所以只能找最接近的数字代替。

float存储方式

这部分内容基本上各篇文章说的都一致,我也简单描述下,后面根据这部分的定义来推算一下float的精度和取值范围。

首先我们知道常用科学计数法是将所有的数字转换成(±)a.b x 1 0 c 10^c 10c 的形式,其中a的范围是1到9共9个整数,b是小数点后的所有数字,c是10的指数。而计算机中存储的都是二进制数据,所以float存储的数字都要先转化成(±)a.b x 2 c 2^c 2c,由于二进制中最大的数字就是1,所以表示法可以写成(±)1.b x 2 c 2^c 2c的形式,float要想存储小数就只需要存储(±),b和c就可以了。

float的存储正是将4字节32位划分为了3部分来分别存储正负号,小数部分和指数部分的:

  1. Sign(1位):用来表示浮点数是正数还是负数,0表示正数,1表示负数。
  2. Exponent(8位):指数部分。即上文提到数字c,但是这里不是直接存储c,为了同时表示正负指数以及他们的大小顺序,这里实际存储的是c+127。
  3. Mantissa(23位):尾数部分。也就是上文中提到的数字b。

三部分在内存中的分布如下,用首字母代替类型

SEEEEEEEEMMMMMMMMMMMMMMMMMMMMMM
0100000011000110011001100110011

float存储示例

以数字6.5为例,看一下这个数字是怎么存储在float变量中的:

  1. 先来看整数部分,模2求余可以得到二进制表示为110。

  2. 再来看小数部分,乘2取整可以得到二进制表示为.1(如果你不知道怎样求小数的二进制,请主动搜索一下)。

  3. 拼接在一起得到110.1然后写成类似于科学计数法的样子,得到1.101 x 2 2 2^2 22

  4. 从上面的公式中可以知道符号为正,尾数是101,指数是2。

  5. 符号为正,那么第一位填0,指数是2,加上偏移量127等于129,二进制表示为10000001,填到2-9位,剩下的尾数101填到尾数位上即可

SEEEEEEEEMMMMMMMMMMMMMMMMMMMMMM
0100000011010000000000000000000
  1. 内存中二进制数01000000 11010000 00000000 00000000表示的就是浮点数6.5

float范围

明白了上面的原理就可求float类型的范围了,找到所能表示的最大值,然后将符号为置为1变成负数就是最小值,要想表示的值最大肯定是尾数最大并且指数最大,
那么可以得到尾数为 0.1111111 11111111 11111111,指数为 11111111,但是指数全为1时有其特殊用途,所以指数最大为 11111110,指数减去127得到127,所以最大的数字就是1.1111111 1111111 11111111 x 2 127 2^{127} 2127,这个值为 340282346638528859811704183484516925440,通常表示成 3.4028235E38,那么float的范围就出来了:

[-3.4028235E38, 3.4028235E38]

float精度

float 类型的数据精度取决于尾数,相信大家都知道这一点,但是精度怎么算我也是迷糊了好久,最近在不断尝试的过程中渐渐的明白了,首先是在不考虑指数的情况下23位尾数能表示的范围是[0, 2 23 − 1 2^{23}-1 2231],实际上尾数位前面还隐含了一个"1",所以应该是一共24位数字,所能表示的范围是[0, 2 24 − 1 2^{24}-1 2241](因为隐含位默认是"1",所以表示的数最小是1不是0,但是先不考虑0,后面会特殊介绍,这里只按一般值计算),看到这里我们知道这24位能表示的最大数字为 2 24 2^{24} 224-1,换算成10进制就是16777215,那么[0, 16777215]都是能精确表示的,因为他们都能写成1.b x 2 c 2^c 2c的形式,只要配合调整指数c就可以了。

16777215 这个数字可以写成1.1111111 11111111 1111111 * 2 23 2^{23} 223,所以这个数可以精确表示,然后考虑更大的数16777216,因为正好是2的整数次幂,可以表示1.0000000 00000000 00000000 * 2 24 2^{24} 224,所以这个数也可以精确表示,在考虑更大的数字16777217,这个数字如果写成上面的表示方法应该是 1.0000000 00000000 00000000 1 * 2 24 2^{24} 224,但是这时你会发现,小数点后尾数位已经是24位了,23位的存储空间已经无法精确存储,这时浮点数的精度问题也就是出现了。

看到这里发现 16777216 貌似是一个边界,超过这个数的数字开始不能精确表示了,那是不是所有大于16777216的数字都不能精确表示了呢?其实不是的,比如数字 33554432 就可以就可以精确表示成1.0000000 00000000 00000000 * 2 25 2^{25} 225,说道这里结合上面提到的float的内存表示方式,我们可以得出大于 16777216 的数字(不超上限),只要可以表示成小于24个2的n次幂相加,并且每个n之间的差值小于24就能够精确表示。换句话来说所有大于 16777216 的合理数字,都是[0, 16777215]范围内的精确数字通过乘以 2 n 2^n 2n得到的,同理所有小于1的正数,也都是 [0, 16777215] 范围内的精确数字通过乘以 2 n 2^n 2n得到的,只不过n取负数就可以了。

16777216 已经被证实是一个边界,小于这个数的整数都可以精确表示,表示成科学技术法就是1.6777216 * 1 0 7 10^{7} 107,从这里可以看出一共8位有效数字,由于最高位最大为1不能保证所有情况,所以最少能保证7位有效数字是准确的,这也就是常说float类型数据的精度。

float小数

从上面的分析我们已经知道,float可表示超过16777216范围的数字是跳跃的,同时float所能表示的小数也都是跳跃的,这些小数也必须能写成2的n次幂相加才可以,比如0.5、0.25、0.125…以及这些数字的和,像5.2这样的数字使用float类型是没办法精确存储的,5.2的二进制表示为101.0011001100110011001100110011……最后的0011无限循环下去,但是float最多能存储23位尾数,那么计算机存储的5.2应该是101.001100110011001100110,也就是数字 5.19999980926513671875,计算机使用这个最接近5.2的数来表示5.2。关于小数的精度与刚才的分析是一致的,当第8位有效数字发生变化时,float可能已经无法察觉到这种变化了。

float特殊值

我们知道float存储浮点数的形式是(±)1.b x 2 c 2^c 2c,因为尾数位前面一直是个1,所以无论b和c取什么样的值,都无法得到0,所以在float的表示方法中有一些特殊的约定,用来表示0已经其他的情况。

float的内存表示指数位数有8位,范围是[0, 255],考虑偏移量实际的指数范围是[-127,128],但实际情况下指数位表示一般数字时不允许同时取0或者同时取1,也就是指数位的实际范围是[-126,127],而指数取-127和128时有其特殊含义,具体看下面表格:

符号位指数位尾数位数值含义
0全为0全为0+0正数0
1全为0全为0-0负数0
0全为0任意取值f 0. f ∗ 2 − 126 0.f * 2^{-126} 0.f2126非标准值,尾数前改为0,提高了精度
1全为0任意取值f − 0. f ∗ 2 − 126 -0.f * 2^{-126} 0.f2126非标准值,尾数前改为0,提高了精度
0全为1全为0+Infinity正无穷大
1全为1全为0-Infinity负无穷大
0/1全为1不全为0NaN非数字,用来表示一些特殊情况

总结

  1. float的精度是保证至少7位有效数字是准确的
  2. float的取值范围[-3.4028235E38, 3.4028235E38],精确范围是[-340282346638528859811704183484516925440, 340282346638528859811704183484516925440]
  3. 一个简单的测试float精度方法,C++代码中将数字赋值给float变量,如果给出警告warning C4305: “=”: 从“int”到“float”截断,则超出了float的精度范围,在我的测试中赋值为16777216及以下整数没有警告,赋值为16777217时给出了警告。
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

float的精度和取值范围 的相关文章

  • Android开发——实现背景颜色渐变效果

    前言 在Android开发当中 xff0c 我们肯定会接到有业务需求是 xff1a 让APP的某一些背景颜色产生渐变效果 那我们应该怎么去实现呢 xff1f 接下就是我要为大家介绍的了 效果图 这是需求要达到的效果 接下来说一下是怎么实现的
  • Java常见设计模式总结

    一 设计模式总述 xff1a 1 什么是设计模式 xff1a 设计模式是一套经过反复使用的代码设计经验 xff0c 目的是为了重用代码 让代码更容易被他人理解 保证代码可靠性 设计模式于己于人于系统都是多赢的 xff0c 它使得代码编写真正
  • ensp解决virtualbox不兼容问题

    virtualbox版本5 2 44 这个版本很讲究 xff0c 太高太低都不行 windows版本为20H2亲测有效 防火墙默认全关 另一台windows配置 系统型号virtualbox型号windows20h25 2 44window
  • 关于元宇宙

    元宇宙融合了信息技术 xff08 5G 6G xff09 互联网时代 xff08 web3 0 xff09 人工智能 云算力 大数据 区块链以及 VR AR MR xff0c 游戏引擎在内的虚拟现实技术的成果 它将引发基础数学 xff08
  • 关于oracle预言机

    oracle预言机和oracle数据库没有任何原因 在其他语种中oracle有预言的意思 区块链预言机 xff08 Oracle xff09 是区块链与外部世界交互的一种实现机制 xff0c 它在区块链与外部世界间建立一种可信任的桥接机制
  • Windows10 系统安装微软商店(ms-windows-store)

    在下载日历是显示没有应用 xff0c 应从ms windows store下载 在此记录windows10安装ms windows store步骤 步骤如下 xff1a 1 使用win 43 x打开菜单后 xff0c 选择powershel
  • 谷歌浏览器打开本地堡垒机应用发布服务器cmd的方法

    齐治堡垒机是业界中较为出名的堡垒机 xff0c 但是依旧存在一些bug 堡垒机是通过应用发布服务器访问web的 xff0c 如果托管了web且堡垒机管理员没有加固应用发布服务器本地策略 xff0c 我们可以通过浏览器调用本地的cmd进行一系
  • 2022复盘&2023计划

    个人成长计划 2022复盘 自媒体 B站 4月10日成为UP主 发布了35个视频 播放量13 6w 累计直播431h 粉丝量1160 获赞量2058 公众号 1053关注 36篇内容 小红书 136粉丝 1167赞 知乎 85关注 48赞
  • 使用集简云将UpTimer同步到Notion

    使用UpTimer同步到Notion 对于集简云我们应当非常熟悉了 xff0c 之前讲过很多流程啦 利用集简云将Notion数据库更新订阅到Outlook和微信 1 干货分享 集简云 2步轻松定制个人RSS阅读器 高效获取信息 2 释放双手
  • MySQL分组查询语句

    文章目录 1 需求2 表结构与部分数据3 查询语句4 结果5 前端显示 1 需求 根据账单表 tb bookkeeping 中的用户ID user id xff0c 按时间倒序查询该用户所在房间所有支出 xff08 bk type 61 0
  • 使用pyinstaller将具有多个python文件的项目打包为exe(含依赖库)

    1 将需要打包有python文件放到一个文件夹 xff0c 例如下图所示的Demo文件夹 xff0c 其中ClickEveryDay py为主文件 xff0c telegram ico为图标文件 2 生成主函数对应的spec文件 命令 xf
  • 在win10下使用PowerShell批量替换文件名

    步骤 通过PowerShell ISE来创建扩展名为 ps1的脚本文件 具体操作过程参考 xff1a https www ithome com html win10 250196 htm编辑新建的 ps1文件 xff0c 举个栗子进行简单说
  • Kotlin笔记15——字符串转数字类型

    前言 在使用Java编程语言开发的 xff0c 我们会经常遇到字符串转数字的需求 那么在Kotlin中是怎么实现的呢 xff1f 接下来跟大家分享一下 字符串转数字 首先我们必须保证字符串是数字类型 xff0c 不能出现a3这种数字与字符混
  • 使用gitLab过程中遇到的一些问题

    之前由于疫情 xff0c 电脑放在公司 xff0c 有一些数据需要其他同事帮忙提交 xff0c 怎知居然连了他的git账号 xff0c 搞得我自己代码提交拉取老有问题 xff0c 一开始没有意识到是这个原因 xff0c 知道打开了自己git
  • 【Micropython】肝货~使用USB_VCP通过USB串口与树莓派或PC端通信

    为什么要使用USB VCP xff1f Micropython有很多串口 xff0c 例如PYboard xff0c 有5个串口可以使用 xff0c 但是 xff0c 平时我们在做一些项目的时候 xff0c 需要使用的引脚较多 xff0c
  • ROS中安装配置并使用VScode(持续更新)

    1 为什么使用VScode VSCode 全称 Visual Studio Code xff0c 是微软出的一款轻量级代码编辑器 xff0c 免费 开源而且功能强大 它支持几乎所有主流的程序语言的语法高亮 智能代码补全 自定义热键 括号匹配
  • pip install airsim问题

    直接使用pip install airsim安装airsim包会失败 airsim C Users DELL gt pip install airsim Collecting airsim Using cached airsim 1 8 1
  • vm虚拟机无法拖拽文件和复制粘贴解决办法

    sudo apt install open vm tools sudo apt install open vm tools desktop
  • PX4和Airsim通信操作流程

    坑真几把多 先在Windows上安装UE4和Airsim不再赘述 xff0c 官网都有 虚拟机或其他计算机安装好ubuntu并安装PX4 1 安装PX4的ROS相关包 xff08 mavros xff09 1 第一种 xff1a 进入官网安
  • mavros安装流程(超简单)

    只适用于Ubuntu18 04 在Ubuntu中新建一个空白文本 xff0c 命名为123 sh bin bash Bash script for setting up ROS Melodic with Gazebo 9 developme

随机推荐

  • 安装WSL2+Ubuntu18.04(慢慢更新记录)

    1 安装WSL和Ubuntu WSL官网在此 安装 WSL Microsoft Learn Windows下CMD xff0c 先安装WSL2 wsl install 然后进入Microsoft Store xff0c 搜索Ubuntu然后
  • -bash: ./Setup.sh: Permission denied

    sudo chmod 777 xxx
  • Linux 给文件夹或者文件添加权限

    chmod R 777 文件夹 参数 R是递归的意思 777表示开放所有权限 chmod 777 test sh chmod 43 x 某文件 如果给所有人添加可执行权限 xff1a chmod a 43 x 文件名 xff1b 如果给文件
  • Postman使用笔记——Postman发送get请求

    前言 在实际的开发当中 xff0c 我们经常用到get或者post请求 在这篇博客里面分享一下 xff0c 如何在Postman中发送get请求 发送get请求 1 在Postman工作空间选定get请求 图中我们可以看到很多请求方式 xf
  • jdbc连接mysql数据库的详细步骤

    标题 jdbc连接mysql数据库 1 首先在项目根目录创lLib文件夹 xff0c 放入jdbc驱动程序 xff0c 然后Add As Library 2 建包 bean包 xff1a 专门放置属性类 dao包 xff1a 进行数据操作的
  • css高度从0到auto的transition动画

    如题 xff0c 想实现css高度从0到auto的transition动画 xff0c 发现直接写没有效果 查了一下 xff0c 发现可以用max height解决 xff0c 代码如下 lt DOCTYPE html gt lt html
  • beego打包

    beego打包 在main go 对应的目录下 windows平台 xff1a bee pack be GOOS 61 windows 打包后生成一个tar gz文件 xff0c 发送到部署服务器 xff0c 解压gz为tar xff0c
  • C++求解组合数的具体实现

    文章目录 前言问题起因组合公式公式变形递推公式递归实现备忘递归动态规划压缩DP其他优化 总结补充反向递归正向递推 前言 很少写关于具体算法的总结笔记 xff0c 因为很难把一个算法从头到尾的叙述清晰并且完整 xff0c 容易造成误解 这次想
  • protobuf中SerializeToString和SerializePartialToString的区别

    文章目录 前言proto2message定义message扩展注意事项 proto3序列化SerializeToString和SerializeAsString区别SerializeToString和SerializePartialToSt
  • epoll的LT模式(水平触发)和ET模式(边沿触发)

    文章目录 前言名称的记忆状态变化LT模式ET模式数据的读取和发送代码实践基础代码测试分类怎么解决ET触发了一次就不再触发了 总结 前言 epoll的触发模式是个引发讨论非常多的话题 xff0c 网络上这方面总结的文章也很多 xff0c 首先
  • 参考开源项目实现一个简易的C++枚举转字符串的函数

    文章目录 前言改造函数使用各函数的作用总结 前言 前段时间接触了 magic enum 这个开源库 xff0c 代码量不算太多 xff0c 是一个但头文件的枚举操作库 xff0c 关于如何使用还写了一篇总结 推荐一个C 43 43 枚举转字
  • SVN通过备份、过滤、再导入的方式彻底删除废弃目录

    文章目录 前言简要步骤操作示例总结 前言 SVN占用的空间随着项目版本迭代越来越大 xff0c 因为保存了历史记录中的各个版本 xff0c 所以即使本地把废弃的目录删掉提交 xff0c 也不会释放出多余的空间 xff0c 大概率因为操作删除
  • Nginx返回静态的json字符串

    文章目录 前言修改配置文件返回简单json字符串返回json文件内容 总结 前言 自从上次安装完nginx我把服务器对外开发的端口都通过它来转发了 xff0c 真香 xff0c 最近要加一个获取最新版本号的功能 xff0c 一开始还想写在服
  • 前端笔记25——CSS子元素选择器

    前言 前面分享了后代选择器 xff0c 下面分享一下学到的子元素选择器 子元素选择器 子元素选择器是指选择符合条件的子元素 xff0c 需要运用到 gt 符号 xff0c 下面通过实例来看一下 xff1a lt DOCTYPE html g
  • linux下使用dd命令测试磁盘的读写速度

    文章目录 前言D状态进程dd命令问题原因总结 前言 最近打包更新总是特别慢 xff0c 其中有一步使用md5sum命令计算MD5值的操作有时居然要卡一个小时 xff0c 虽说计算MD5比较耗时 xff0c 但通常计算5个G数据的md5值也就
  • .bat批处理(二):%0 %1——给批处理脚本传递参数

    文章目录 前言内容总结 前言 初次接触批处理脚本觉得有点意思 xff0c 所以决定写一个小功能试验一下 xff0c 谁知刚一开始就发现遇到了麻烦 xff0c 本想着使用参数来控制程序的运行结果 xff0c 可是参数怎么传进去呢 xff0c
  • .bat批处理(三):变量声明、设置、拼接、截取

    文章目录 前言内容总结 前言 在使用批处理脚本的时候我们常常会有这类需求 xff0c 比如需要设置一个变量来存储数据 xff0c 简化程序书写 xff1b 拼接现有的内容得到新的变量 xff1b 截取变量的一部分来满足我们的要求 xff0c
  • ... fatal error LINK1120:1个无法解析的外部命令 的解决办法

    前言 首先说这是一个链接错误而不是编译错误 xff0c 造成这种问题的根本原因就是找得到函数的声明 xff0c 但是找不到函数的实现 xff0c 这是最根本的 xff0c 具体的表现形式有很多 xff0c 我们稍后再做分析 xff0c 下面
  • mysql 诡异的1054错误

    前言 今天在工作中遇到一个非常坑爹的问题 xff0c 有关Mysql的异常处理 xff0c 花费了我好几个小时的时间 xff0c 最后终于解决了 xff0c 然后根据出现的问题的原因 xff0c 逆向来看自己解决问题的过程 xff0c 发现
  • float的精度和取值范围

    文章目录 前言精度限制float存储方式float存储示例float范围float精度float小数float特殊值总结 前言 关于float的精度和取值范围这个问题 xff0c 我查询了很多次 xff0c 每次都是用完就忘了 xff0c