C++中float和double的比较

2023-11-12

在c++开发中,double或者float类型判断相等性不能简单的用等于符号==进行,一般会采用如下方式进行判断

static inline bool DoubleEqual(double a, double b)
{
     return fabs(a - b) < std::numeric_limits<double>::epsilon();
}

为了验证这个说法,我在机器上写了如下一段代码, 结果竟然没有一次输出,貌似可以直接比较

double a = 0, b = 0;
for(int i = 0; i < 100000; i++) {
    a += i * 0.1;
    b += i * 0.1;
    if ( a != b) {
        printf("%f %f\n", a ,b);
    }
}

那么到底浮点数能不能比较?

#include<stdio.h>
int main()
{
    float x = 0.1;
    if (x == 0.1)
        printf("1");
    else if (x == 0.1f)
        printf("2");
    else
        printf("3");
}

这段代码输出2,这也就意味着 x == 0.1 返回了false。 x==0.1f 返回了true。这又是为什么呢?先看一段代码

#include<stdio.h>
int main()
{
    float x = 0.1;
    printf("%d %d %d", sizeof(x), sizeof(0.1), sizeof(0.1f));
    return 0;
}

这段代码输出 4 8 4, 这也就说明代码中不加上f后缀,默认会采用double类型(sizeof(0.1)中的0.1作为常量默认是按照double存储的)。前面的例子中 x == 0.1 导致了x 变量提升到double(因为右边的0.1是double类型,所以x要提升到double),double 位数比float要多,这时候就需要二进制补全(x进行了补全,只是把后面缺的近30位补成了0,而不是把x这个0.1重新按照double进行组织,也就是补全后的x虽然小数部分达到了52位,但是后面的29位都是0)。0.1的二进制(double)表示为(0.00011001100110011…) 后面的...表示循环数。由于float的位数(23)要小于double(52)的位数,在x变量提升到double后, 编译器会将多余的尾补全尾0。

0.00011001100110011001100 float 0.1
在和0.1比较时(0.1默认为double)时,x会被编译器进行变量提升,变成
0.00011001100110011001100000000000000000 (float 0.1 提升到double 0.1的二进制表示)
 而double类型的0.1的表示为:
0.0001100110011001100110011001100110011001100110011001(原double 0.1的二进制表示)
上述结果就得到了解释,float提升到double后的二进制表示和double 0.1的二进制完全不一样。

难道所有的比较都会有这个问题吗?并不是。下面有个例子就不会产生问题比如

#include<stdio.h>
int main()
{
    float x = 0.5;
    if (x == 0.5)
        printf("1");
    else if (x == 0.5f)
        printf("2");
    else
        printf("3");
}

这个就输出了1, 

0.5的二进制表示为0.100000…, 由此看见就算编译器在尾补上补充再多的0,也不会导致二进制表示不一样。

总结
同类型的比较不设计到变量提升或者截断,可以直接比较。当变量提升或者截断后,二进制没有循环模式的也是可以直接比较的。


参考链接:https://blog.csdn.net/Sweet_Oranges/article/details/120333814

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

C++中float和double的比较 的相关文章

  • 是否有与 posix_memalign 对应的 C++ 版本?

    当我打电话时posix memalign http man7 org linux man pages man3 posix memalign 3 html为类型的对象分配对齐的内存Foo在我的 C 代码中 我需要做一个reinterpret
  • 适合初学者的良好调试器教程[关闭]

    Closed 这个问题不符合堆栈溢出指南 help closed questions 目前不接受答案 有谁知道一个好的初学者教程 在 C 中使用调试器 我感觉自己好像错过了很多 我知道怎么做 单步执行代码并查看局部变量 虽然这常常给我带来问
  • 为什么pow函数比简单运算慢?

    从我的一个朋友那里 我听说 pow 函数比简单地将底数乘以它的指数的等价函数要慢 例如 据他介绍 include
  • ComboBox DataBinding 导致 ArgumentException

    我的几个类对象 class Person public string Name get set public string Sex get set public int Age get set public override string
  • 如何在C(Linux)中的while循环中准确地睡眠?

    在 C 代码 Linux 操作系统 中 我需要在 while 循环内准确地休眠 比如说 10000 微秒 1000 次 我尝试过usleep nanosleep select pselect和其他一些方法 但没有成功 一旦大约 50 次 它
  • 查看 NuGet 包依赖关系层次结构

    有没有一种方法 文本或图形 来查看 NuGet 包之间的依赖关系层次结构 如果您使用的是新的 csproj 您可以在此处获取所有依赖项 在项目构建后 项目目录 obj project assets json
  • Visual Studio 在构建后显示假错误

    我使用的是 Visual Studio 2017 构建后 sln在调试模式下 我收到错误 但是 当我通过双击错误列表选项卡中的错误来访问错误时 错误会从页面中消失 并且错误数量也会减少 我不太确定这种行为以及为什么会发生这种情况 有超过 2
  • C# 存档中的文件列表

    我正在创建一个 FileFinder 类 您可以在其中进行如下搜索 var fileFinder new FileFinder new string C MyFolder1 C MyFolder2 new string
  • 识别 Visual Studio 中的重载运算符 (c++)

    有没有办法使用 Visual Studio 快速直观地识别 C 中的重载运算符 在我看来 C 中的一大问题是不知道您正在使用的运算符是否已重载 Visual Studio 或某些第三方工具中是否有某些功能可以自动突出显示重载运算符或对重载运
  • 在视口中查找 WPF 控件

    Updated 这可能是一个简单或复杂的问题 但在 wpf 中 我有一个列表框 我用一个填充数据模板从列表中 有没有办法找出特定的数据模板项位于视口中 即我已滚动到其位置并且可以查看 目前我连接到了 listbox ScrollChange
  • 为什么这个二维指针表示法有效,而另一个则无效[重复]

    这个问题在这里已经有答案了 这里我编写了一段代码来打印 3x3 矩阵的对角线值之和 这里我必须将矩阵传递给函数 矩阵被传递给指针数组 代码可以工作 但问题是我必须编写参数的方式如下 int mat 3 以下导致程序崩溃 int mat 3
  • 在mysql连接字符串中添加应用程序名称/程序名称[关闭]

    Closed 这个问题需要细节或清晰度 help closed questions 目前不接受答案 我正在寻找一种解决方案 在连接字符串中添加应用程序名称或程序名称 以便它在 MySQL Workbench 中的 客户端连接 下可见 SQL
  • C++ 中的双精度型数字

    尽管内部表示有 17 位 但 IEE754 64 位 浮点应该正确表示 15 位有效数字 有没有办法强制第 16 位和第 17 位为零 Ref http msdn microsoft com en us library system dou
  • 等待 IAsyncResult 函数直至完成

    我需要创建等待 IAsyncResult 方法完成的机制 我怎样才能做到这一点 IAsyncResult result contactGroupServices BeginDeleteContact contactToRemove Uri
  • WebBrowser.Print() 等待完成。 。网

    我在 VB NET 中使用 WebBrowser 控件并调用 Print 方法 我正在使用 PDF 打印机进行打印 当调用 Print 时 它不会立即启动 它会等到完成整个子或块的运行代码 我需要确保我正在打印的文件也完整并继续处理该文件
  • 在 Windows Phone silverlight 8.1 上接收 WNS 推送通知

    我有 Windows Phone 8 1 silverlight 应用程序 我想使用新框架 WNS 接收通知 我在 package appxmanifest 中有
  • 如何在richtextbox中使用多颜色[重复]

    这个问题在这里已经有答案了 我使用 C windows 窗体 并且有 richtextbox 我想将一些文本设置为红色 一些设置为绿色 一些设置为黑色 怎么办呢 附图片 System Windows Forms RichTextBox有一个
  • 使用 C 在 OS X 中获取其他进程的 argv

    我想获得其他进程的argv 例如ps 我使用的是在 Intel 或 PowerPC 上运行的 Mac OS X 10 4 11 首先 我阅读了 ps 和 man kvm 的代码 然后编写了一些 C 代码 include
  • 为boost python编译的.so找不到模块

    我正在尝试将 C 代码包装到 python 中 只需一个类即可导出两个函数 我编译为map so 当我尝试时import map得到像噪音一样的错误 Traceback most recent call last File
  • 如何减少具有多个单元的 PdfPTable 的内存消耗

    我正在使用 ITextSharp 创建一个 PDF 它由单个 PdfTable 组成 不幸的是 对于特定的数据集 由于创建了大量 PdfPCell 我遇到了内存不足异常 我已经分析了内存使用情况 我有近百万个单元格的 1 2 在这种情况下有

随机推荐