程序员经验分享-hwhale

0.1+0.2不等于0.3 原因

2023-05-16

在计算机进行数字计算时会先将十进制转化为二进制进行计算，由于二进制表示的有限数字不能超过 52 位在 JavaScript 里是不能精确存储的，计算机进行了四舍五入这时造成了数字误差导致计算结果不为0.3;

总结：我们可以看到，当十进制小数的二进制表示的有限数字超过 52 位时，在 JavaScript 里是不能精确存储的，这时候就存在舍入误差(Round-off error)。

本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系:hwhale#tublm.com(使用前将#替换为@)

0.1+0.2不等于0.3 原因 的相关文章

随机推荐

  • ubuntu清理磁盘空间的几个技巧

    1 删除残余的配置文件 通常Debian Ubuntu删除软件包可以用两条命令 sudo apt get remove lt package name gt sudo apt get purge lt package name gt rem

  • 【英语】大学英语CET考试，导学规划与听力部分1（选项发音，短选项答题技巧）

    文章目录 1 课程规划和导学1 1 试卷结构和备考目标1 2 单词 xff0c 听力 xff0c 阅读 xff0c 真题学习方法 2 听力技巧课1 xff08 导学与发音 xff09 3 听力技巧课2 xff08 答题技巧 xff01 重要

  • 【Linux】Ubuntu各版本号和名称对照

    版本开发代号中译发布日期支持结束时间内核版本桌面版服务器版4 10Warty Warthog多疣的疣猪2004 10 202006 04 302 6 85 04Hoary Hedgehog白发的刺猬2005 04 082006 10 312

  • 在Windows系统中 开机自动运行一个Python脚本 或者自动运行一个软件

    以前做过开机运行 xff0c 但是现在用的时候又给忘了 xff0c 所以本次来写一下步骤 博主做的是一个ftp服务器 xff0c 因为是在自己电脑上 xff0c 希望局域网内可以互相传文件 xff0c 所以希望开机之后能自动运行 对于Win

  • cas5.3.2单点登录-JDBC认证(密码MD5和密码加盐)(二)

    原文地址 xff0c 转载请注明出处 xff1a https blog csdn net qq 34021712 article details 80956047 王赛超 上一章搭建了单点登录的基本骨架 xff0c 但是它的用户名和密码是写

  • 多控制器集群环境下，基于LLDP和OpenFlow的网络拓扑检测

    多控制器集群环境下 xff0c 基于LLDP和OpenFlow的网络拓扑检测 目录 多控制器集群环境下 xff0c 基于LLDP和OpenFlow的网络拓扑检测 一 实验目的 二 实验原理 三 实验任务 四 实验步骤 4 1 实验环境 4

  • P4连接ONOS——导入ONOS虚拟机

    补充 xff1a 2020年5月11日 13点07分 近期有同学私信我安装过程中有这个报错 xff0c 如下图 根据报错信息 xff0c 似乎是下载这个包服务器501出错 xff0c 很可能是因为内网无法下载这个包 我忘记说了 xff0c

  • ONOS链路发现源码

    ONOS链路发现源码 send LLDP by ynogpu private void sendProbes Long portNumber String portDesc if context packetService 61 61 nu

  • 手把手教你新建一个winform项目（史上最全）

    文章目录 前言 xff1a 第1步 打开Microsoft Visual Studio xff08 简称vs xff09 xff0c 本人这里使用的是Visual Studio 2017 专业版 xff0c 如下图 xff1a 1 2 Vi

  • 2021-01-20

    中文字库液晶模块12864示例程序范例 xff1a 液晶屏型号 xff1a JLX12864G 086 PC 3S 接口 xff1a 串行 中文字库 xff1a 带中文字库IC JLX GB2312 竖置横排 驱动IC UC1701X 与S

  • 前端开发中常见的浏览器兼容性问题及解决方案

    文章目录 前言一 浏览器四大内核二 主流兼容问题 xff08 一 xff09 浏览器引擎 xff08 二 xff09 兼容问题的原因 xff08 三 xff09 为什么浏览器会存在兼容性问题 xff08 四 xff09 处理兼容问题的思路1

  • 论文复现——Sphereface-Pytorch

    最近在写论文 xff0c 要做一些对比实验 xff0c 需要以Sphereface为基础 其实实验早该做了 xff0c 就是一直拖拖拖 唉拖延症患者 今天总算是把github上的代码跑通了 xff0c 赶紧做下小笔记 因为还要赶论文 xff

  • mysql学习-9.如何正确的使用索引

    1 索引的规则 1 1 等值匹配 假设索引 A select from table where A 61 xxx就是走索引的 1 2 最左侧列匹配 假设索引 A B select from table where A 61 xxx and

  • Python/matplotlib之【RuntimeWarning: More than 20 figures have been opened】

    Python matplotlib之 RuntimeWarning More than 20 figures have been opened 当绘图的过程中 xff0c 建立了大量的figure xff0c 就会报错 解决的方法 xff0

  • 【学习】《软件工程》期末考试卷A+参考答案

    2021 福师网院 软件工程 2020年期末考试卷A xff08 参考答案见底部 xff09 1 软件需求分析阶段的工作 xff0c 可以分为以下4个方面 xff1a 对问题的识别 分析与综合 编写需求分析文档以及 xff08 xff09

  • C#自定义控件

    一 开发环境和工具 1 WIN10系统 2 Visual Studio社区版 2019 xff08 C xff09 二 创建自定义控件窗体 添加一个自定义控件 xff0c 右键解决方案 xff0c 点击添加 xff0c 然后点击用户控件 选

  • vdo 虚拟数据优化器详解以及配置

    VDO 我的博客 xff1a https blog itwk cc vdo xff08 虚拟数据优化器 xff09 是一个内核模块 xff0c 目的是通过重删 xff08 重复数据删除 xff09 减少磁盘的的空间占用 xff0c 以及减少

  • ROS 自定义消息类型方法

    流程 1 在package中新建文件夹名为msg 2 在msg文件夹中创建消息 xff08 此处以my msg msg xff09 为例 xff0c 注意的是要以msg为后缀名 内容举例如下 xff1a int32 data1 float6

  • 计算机网络第七版笔记--第一章

    第一章概述 1 1 计算机网络在信息时代中的作用 1 互联网是覆盖全球的 xff0c 具有两个重要基本特点 xff0c 即连通性和共享 1 2互联网的概述 1 2 1网络的网络 1 计算机网络 xff08 简称网络 xff09 由若干结点

  • 0.1+0.2不等于0.3 原因

    在计算机进行数字计算时会先将十进制转化为二进制进行计算 xff0c 由于二进制表示的有限数字不能超过 52 位在 JavaScript 里是不能精确存储的 xff0c 计算机进行了四舍五入这时造成了数字误差导致计算结果不为0 3 总结 xf

热门标签