关于Go中浮点精度的一个问题 https://stackoverflow.com/questions/22337418/golang-floating-point-precision-float32-vs-float64让我想知道C是如何处理这个问题的。
在 C 中使用以下代码:
float a = 0.1;
Will a
具有最接近的 IEEE 754 二进制表示形式:
00111101110011001100110011001101 (Decimal: 0.10000000149011612)
或者只是将其裁剪为:
00111101110011001100110011001100 (Decimal: 0.09999999403953552)
或者它会根据编译器/平台而有所不同吗?
允许实现执行以下任一操作(甚至可以再执行一次):
对于十进制浮点常量,以及当 FLT_RADIX 不是 2 的幂时的十六进制浮点常量,结果是最接近的可表示值,或者是紧邻最接近可表示值的较大或较小的可表示值,在实现定义中选择方式。
(C11,§6.4.4.2/3)
自 C99 以来,我们已经有了十六进制浮点常量,以便您可以精确指定所需的位(假设实现提供二进制浮点:)),因此您可以说,例如:
float a = 0x1.99999Ap-4;
对于 IEEE 754 32 位浮点数:
#include <stdio.h>
int main() {
float a = 0.1;
float low = 0x0.1999999p0;
float best = 0x0.199999ap0;
float high = 0x0.199999bp0;
printf("a is %.6a or %.16f, which is either %.16f, %.16f or %.16f\n",
a, a, low, best, high);
return 0;
}
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)