程序员经验分享-hwhale

Float数值表示

2023-05-16

float浮点用32个二进制位表示: 
第1位S代表正负号: 0为正数, 1为负数
第2-9位E是阶码,代表2的指数次方, 指数=阶码-127
第10-32位代表尾数1.M

阶码取值范围在1-254时, f=(-1)^S * 1.M * 2^(E-127)  
例如11=1.375*2^3 = (-1)^0 * [1+(0+*0.25+*0.125)] * 2^(128+2-127)  
因此11f 用二进制表示成 0 10000010 01100000000000000000000

最大浮点数 Float.MAX_VALUE=[1+1-2^(-23)]*2^(254-127)=2^128-2^104=3.4028*10^38  
Float精度是23个位二进制位,约等于千万分之一
能保证该精度的最小值 Float.MIN_NORMAL=1*2^(1-127)=2^(-126)=0 00000001 00000000000000000000000

阶码取255时,尾数M全为零时是正负无穷大; 尾数不全为零时是NaN

阶码取0时,f=(-1)^S * 0.M * 2^(-126) 此时精度小于23位
Float能表示出的最小值 Float.MIN_VALUE=2^(-23-126)=2^(-149)=1.4*10^(-45)=0 00000000 00000000000000000000001

因此 Float.MIN_VALUE/1.99f=Float.MIN_VALUE    Float.MIN_VALUE/2.0f=0

本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系:hwhale#tublm.com(使用前将#替换为@)

Float

数值表示

Float数值表示 的相关文章

  • java中float比较大小,Java中的Float比较

    要比较Java中的Float xff0c 请使用以下方法 方法1 Java中的compareTo newFloat 方法 java lang Float compareTo 方法比较两个Float对象 如果新的float值在数值上等于此Fl

  • string与float数据的转换

    问题 xff1a 如何将6位小数的string数据转化为2位小数的float数据显示 xff1f 先通过atof 转化为6位小数的float数据 xff1b temp 61 atof strtemp sscanf 61 strtemp 34

  • YOLO V5出现RuntimeError: result type Float can‘t be cast to the desired output type long int解决方法

    在使用YOLO框架训练自己的数据集时候 xff0c 开始跑train py xff0c 出现如下报错 xff1a RuntimeError result type Float can t be cast to the desired out

  • TypeError: float() argument must be a string or a number, not ‘Dimension‘

    Keras中运行 input shape得到的变量与float int等类型的操作时会报错 xff0c 例如 in channel 61 inputs shape channel axis x 61 conv layer x filter

  • 4.2用Effect实现多纹理化效果

    4 2用Effect实现多纹理化效果 前面我们介绍了一个使用像素着色器实现的多纹理化 这里用Effect框架重新给于实现 读者可以比较两者之间的异同 体会Effect框架给我们带来了哪些方面的改善 4 2 1着色器 下面是着色器代码 该代码

  • VC编译的五子棋游戏核心算法分析(附源码)

    转载请标明是引用于 http blog csdn net chenyujing1234 前段时间在CSDN的资源里载得五子棋VC的源码 由于忘了链接地址 这里没有标明出处 请作者谅解 但我也把在VS2005上编译通过且加入清楚的注释的源码放

  • CGAL中2D Arrangements学习笔记

    CGAL中2D Arrangements学习笔记 转载自 http hi baidu com lihao102 blog item 33015f63b69b3b6a0c33fab6 html 2D Arrangement类型简介 给定一组平

  • 整理 firefox 和IE系列的相关差别，已备后用！

    一 IE与FireFox的js和css png透明 AlphaImageLoaderfilter progid DXImageTransform Microsoft AlphaImageLoader enabled bEnabled siz

  • 【Java】基础类型之float（八）

    特征 float 数据类型是单精度 32位 符合IEEE 754标准的浮点数 float 在储存大型浮点数组的时候可节省内存空间 默认值是 0 0f 浮点数不能用来表示精确的值 如货币 float是浮点类型中的一种 以F或f结尾标识 如果不

  • opencv入门Vec3f

    Vec3f表示的是3通道float类型的 Vect 就相当于3通道float类型的图像 这是其中一个具体化 解释可以从源代码中看出来 下面给出一个具体的例子 Vec3f point Vec3f 10 10 3 2 Float 3 compo

  • C++ 之 浮点数的大小比较

    摘要 本文首先 将 介绍 浮点数 的 存储结构 以及 int 操作 含义 其次 介绍 常规 浮点数比较 方法 最后 本文 将采用 int 转换为 整型 数据 直接比较 转换为的 整形数据 的 大小 1 浮点数 的 存储结构 十进制 1 35

  • sql 时间计算

    兩個時間之差的合計 DECLARE I INT SET I DATEDIFF ms GETDATE RAND 24 GETDATE SELECT convert varchar 10 I 86400000 Days convert varc

  • 重写、覆盖、重载、隐藏、多态几个概念的区别分析

    override gt 重写 覆盖 overload gt 重载 polymorphism gt 多态 override是重写 覆盖 了一个方法 以实现不同的功能 一般是用于子类在继承父类时 重写 重新实现 父类中的方法 成员函数的重载 o

  • java 中int String类型转换

    int gt String int i 12345 String s 第一种方法 s i 第二种方法 s String valueOf i 这两种方法有什么区别呢 作用是不是一样的呢 是不是在任何下都能互换呢 String gt int s

  • 文字模糊效果（Opencv实现）

    效果图 实现过程 该方法以photoshop中的图层为基本思想 对文字的处理 实际上是将图片作为一幅图像来处理的 而背景是一幅图像 即另一个图层 1 读取文字图片 将图片进行高斯模糊 因高斯模糊是一个卷积的过程 所以可以设定卷积因子的大小

  • C/C++基本数据类型所占字节数

    关于这个基本的问题 很早以前就很清楚了 C标准中并没有具体给出规定那个基本类型应该是多少字节数 而且这个也与机器 OS 编译器有关 比如同样是在32bits的操作系统系 VC 的编译器下int类型为占4个字节 而tuborC下则是2个字节

  • 用java实现打印功能

    用java实现打印 java awt中提供了一些打印的API 要实现打印 首先要获得打印对象 然后继承Printable实现接口方法print 以便打印机进行打印 最后用用Graphics2D直接输出直接输出 下面代码实现了简单的打印功能

  • C#根据经纬度计算两点距离（单位是千米）

    SQL CREATE function dbo fnGetDistance LatBegin REAL LngBegin REAL LatEnd REAL LngEnd REAL RETURNS FLOAT AS BEGIN DECLARE

  • 图像的二值化分割，otsu类间方差法

    二值化图像指图像中的每个像素只取两个离散的值之一 用数学公式表示为 公式中 f x y 表示一幅数字图像 X Y表示该图像中某像素的坐标值 T为 二值化的阈值 表示经过阈值运算后的二值化图像 这里0和1仅仅是一个抽象表示 并非实际像素值 它

  • 系统邮件模板的邮箱兼容性

    近期支付宝的系统邮件进行了一次改版 在这次改版的过程中 我们遇到了很多在网页中显示正常的html邮件在邮箱中显示异常的问题 下面我们把遇到的问题和一些常用的代码书写规则和大家分享 共性问题 许多邮箱都会出现的问题 1 字体大小会发生变化 排

随机推荐

  • 200506--iOS之NSAttributedString类

    Class NSAttributedString A string that has associated attributes such as visual style hyperlinks or accessibility data f

  • 批处理文件（bat）之全彩滚动我爱你

    前言 xff1a 本文章分享利用bat文件制作炫彩的全屏滚动文字效果 xff0c 具体效果可关注我的抖音 xff0c 查看短视频介绍 代码实现 xff1a 64 echo off amp setlocal enabledelayedexpa

  • @Bean放入其引用Bean中初始化失败分析

    以下讨论的问题及术语均在SpringBoot框架下 xff0c 问题十分小众 xff0c 仅做整理记录 1 先说重点 Bean依赖属性的注入顺序 xff0c 与代码定义顺序无关 xff1b 最好是将 64 Bean注解配置的Bean放在 6

  • 使用BeanCopier抛出NullPointerException溯源

    问题 使用cglib提供的net sf cglib beans BeanCopier进行对象拷贝时 xff0c 抛出如下异常 xff1a Exception in thread span class token string 34 main

  • 自制Alfred/Wox插件推荐

    最近上手Alfred的使用 xff0c 日常工作中存在很多需要高频执行的连续性动作 xff0c 将这一系列动作封装成Workflow xff0c 通过命令触发 xff0c 对提升效率确有很大帮助 自己封装了一些简单的Workflow xff

  • Python删除某一目录下的空文件(夹)

    Python删除某一目录下的空文件 夹 用途 输入文件夹路径 xff0c 将此文件夹下所有的空文件夹和空文件删除 xff0c 算是文件操作的一个习作吧 我拿它做什么就不广而告之了 代码 span class hljs comment cod

  • Win10下pip的安装

    pip简介 pip 是一个安装和管理 Python 包的工具 xff0c 通过pip我们能够轻松地下载和卸载python的第三方包 原料 64位Windows10 专业版python 2 7 12 下载安装包 进入python官方网站 xf

  • Windows10通过一根网线进行远程桌面连接

    目的 xff1a 想要通过笔记本访问我台式机 给台式机设置IP地址 xff1a IP xff1a 192 168 0 2 子网掩码 xff1a 255 255 255 0 默认网关 xff1a 192 168 0 2 给笔记本设置ip地址

  • Python爬虫爬取动态页面思路+实例（一）

    简介 有时候 xff0c 我们天真无邪的使用urllib库或Scrapy下载HTML网页时会发现 xff0c 我们要提取的网页元素并不在我们下载到的HTML之中 xff0c 尽管它们在浏览器里看起来唾手可得 这说明我们想要的元素是在我们的某

  • zerorpc-python官方入门

    原文地址 xff1a http www zerorpc io 一个易于使用的 xff0c 直观的 xff0c 跨语言的RPC zerorpc是一个在服务端进程上提供分布式通信的轻量级的 可靠的跨语言的库 它基于ZeroMQ和MessageP

  • Python保存json文件并格式化

    背景 最近自己搞些小东西 xff0c 需要用json文件存储些文件属性什么的 xff0c 但是发现用json包里的json dump 方法存json文件的效果好丑 xff08 其实是没仔细看方法 xff09 于是上网找了一份格式化json文

  • No module named 'django.templates'起因和解决

    当我跟着django官网上的教程写到template模板这一部分的时候 xff0c 出现了上述问题 span class hljs constant No span span class hljs class span class hljs

  • Celery ValueError: not enough values to unpack (expected 3, got 0)的解决方案

    背景 最近因项目需要 xff0c 学习任务队列Celery的用法 xff0c 跟着官网写Demo xff0c 出现如题错误 xff0c 最终在github的Issues里找到解决办法 xff0c 记录如下 场景还原 本地环境如下 xff1a

  • 震惊！Selenium分手PhantomJS

    背景 今天本地调试基于Selenium 43 PhantomJS的动态爬虫程序顺利结束后 xff0c 着手部署到服务器上 xff0c 刚买的热乎的京东云 xff0c 噼里啪啦一顿安装环境 xff0c 最后跑的时候报了这么个错误 xff1a

  • Android Studio flutter关于GradleException和NonNull报错的问题

    Android Studio flutter关于GradleException和NonNull报错的问题 问题描述build gradle的报错NonNull的报错 问题追踪及尝试解决解决方案 方案一 暴力解决 方案二 优雅忽略 方案三 心

  • gcc-multilib在Ubuntu20.04上无法安装

    2021SC 64 SDUSC Ubuntu20 04无法安装 gcc multilib g 43 43 multilib 错误内容解决方案 错误内容 执行sudo apt install gcc multilib g 43 43 mult

  • docker 常用命令总结

    1 docker login docker login OPTIONS SERVER SERVER 远程仓库地址 OPTIONS 的常用值 u string 用户名 p string 密码 2 docker search docker se

  • vscode提取拓展时出错。XHR failed

    问题描述 使用vscode的拓展搜索时出现报错 xff0c 如下图 xff1a 问题分析 使用cmd的ping工具尝试ping域名 marketplace visualstudio com 无法ping通 解决方案 1 打开本地配置文件 C

  • MAC下常用命令的中文帮助文档(man)

    默认在终端进行man命令 xff0c 如 xff1a man ls xff0c 会显示英文的帮助文档 本文教你如何查看中文文档 资源 xff1a 1 manpages zh 1 5 2 tar bz2 2 groff 1 21 tar gz

  • Float数值表示

    float浮点用32个二进制位表示 第1位S代表正负号 0为正数 1为负数 第2 9位E是阶码 代表2的指数次方 指数 61 阶码 127 第10 32位代表尾数1 M 阶码取值范围在1 254时 f 61 1 S 1 M 2 E 127

热门标签