Python
Java
PHP
IOS
Android
Nodejs
JavaScript
Html5
Windows
Ubuntu
Linux
迭代时浮点数不精确
我有一个函数 可以根据范围内的值计算 3d 空间中的点 0 1 我面临的问题是 二进制浮点数不能精确表示 1 函数中计算的数学表达式能够计算出以下值 t 1 0 但该值永远不会被函数接受 因为它在计算之前检查是否符合范围 curves er
c
floatingpoint
floatingaccuracy
浮点表示错误?
当我做这个乘法时 0 94 8700 输出是 8177 999999999999 但它本来应该是 8178 我正在使用 java 但我不认为这个错误与特定的编程语言有关 现在我的问题是 为什么会发生这种事 还有哪些其他数字 仅作为示例 会导
floatingpoint
floatingaccuracy
doubleprecision
Google 表格比 Microsoft Excel 更准确还是更准确?
我知道浮点数数值不准确的普遍问题 但我希望 Excel 和 Google Sheets 的行为相同 不幸的是 他们没有 请参阅以下示例 A1 15 525 our reference A2 3 5 175 should equal 15 5
Excel
googlesheets
IEEE754
floatingaccuracy
为什么 Python 3.5 中的 round(4.5) == 4 和 round(5.5) == 6 ? [复制]
这个问题在这里已经有答案了 看起来 4 5 和 5 5 在 Python 3 5 中都有精确的浮点表示 gt gt gt from decimal import Decimal gt gt gt Decimal 4 5 Decimal 4
python
floatingpoint
floatingaccuracy
浮点加法 - 给出奇怪的结果..!
当执行以下代码时 public class FPoint public static void main String args float f 0 1f for int i 0 i lt 9 i f 0 1f System out pri
Java
floatingpoint
floatingaccuracy
C++ 精度:字符串到双精度
在对转换为双精度的字符串执行一些操作后 我遇到了双精度的精度问题 include
c
floatingpoint
floatingaccuracy
(.1f+.2f==.3f) != (.1f+.2f).Equals(.3f) 为什么?
我的问题是not关于浮动精度 这是关于为什么Equals 不同于 我明白为什么 1f 2f 3f is false while 1m 2m 3m is true 我明白了 是参考和 Equals 是价值比较 Edit 我知道还有更多 但为什
c
equality
floatingaccuracy
C# 字符串到浮点转换无效?
var x dr NationalTotal ToString 给我 333333333 var xxx Convert ToSingle dr NationalTotal ToString 给我 333333344 有什么想法吗 发生这种
c
floatingpoint
floatingaccuracy
typeconversion
对于某些正整数 n,m (int)pow(n,m) 会错误吗?
Assuming n and m are positive integers and nm is within the range of an integer will int pow n m ever give a wrong answe
c
floatingaccuracy
在 pandas 中使用 read_csv 时精度丢失
我在文本文件中有以下格式的文件 我试图将其读入 pandas 数据帧 895 2015 4 23 19 10000 LA 0 4677978806 0 4773469340 0 4089938425 0 8224291972 0 86525
python
csv
pandas
NumPy
floatingaccuracy
四舍五入的奇怪之处——“100”有什么特别之处? [复制]
这个问题在这里已经有答案了 有人对 haskell 中这种奇怪的舍入有解释吗 GHCi 版本 7 2 1 一切看起来都很好 除非我乘以 100 Main gt 1 1 1 1 Main gt 1 1 10 11 0 Main gt 1 1
rounding
floatingaccuracy
舍入错误?
在我的课程中 我被告知 连续值在内存中近似表示 因此使用浮点数进行计算会涉及舍入误差 这些是位模式中的微小差异 因此测试e f是不安全的 如果e and f是花车 参考Java 这是真的 我使用了比较语句doubles and floats
Java
memory
floatingaccuracy
浮点算术以及 x86 和 x64 上下文
我们在 VisualStudio 进程上下文 x86 上下文 和 VisualStudio 上下文 x64 上下文 之外运行一些代码 我注意到以下代码在两种上下文中提供了不同的结果 x86 中的 100000000000 和 x64 中的
c
NET
x86
x8664
floatingaccuracy
为什么 4*0.1 的浮点值在 Python 3 中看起来不错,但 3*0.1 却不然?
我知道大多数小数没有精确的浮点表示 浮点数学有问题吗 但我不明白为什么4 0 1打印得很好0 4 but 3 0 1不是 当 这两个值实际上都有丑陋的十进制表示形式 gt gt gt 3 0 1 0 30000000000000004 gt
python
floatingpoint
rounding
floatingaccuracy
IEEE754
添加多个浮点变量时最小化浮点误差
在我的 C 应用程序中 我有一个范围 0 1 内的双精度向量 我必须尽可能准确地计算其总数 感觉这个问题之前应该已经解决了 但我找不到任何东西 显然 如果向量大小很大并且有些项目明显小于其他项目 则迭代向量上的每个项目并执行 sum vec
c
floatingpoint
floatingaccuracy
浮点数学有问题吗?
考虑以下代码 0 1 0 2 0 3 gt false 0 1 0 2 gt 0 30000000000000004 为什么会出现这些不准确的情况 Binary 浮点数学就是这样 在大多数编程语言中 它基于IEEE 754 标准 问题的关键
Math
floatingpoint
languageagnostic
precision
floatingaccuracy
sin、cos、tan 不准确
为什么sinl当参数接近 pi 的非零倍数时给出不正确的结果 为什么sinl当参数很大时给出不正确的结果 下面的代码说明了这一点 请注意 用于初始化变量 pi 的数字与任何 64 位长双精度值并不完全匹配 编译器选择最接近的值 即3 141
floatingpoint
trigonometry
floatingaccuracy
浮点倒数总是往返吗?
对于 IEEE 754 算术 倒数的最后一位精度是否能保证 0 或 1 个单位 由此看来 倒数的倒数是否有保证的误差范围 下面的所有内容均假定固定的 IEEE 754 二进制格式 并采用某种形式的舍入到最接近的舍入模式 由于倒数 计算为1
floatingpoint
precision
floatingaccuracy
IEEE754
为什么 CLng 会产生不同的结果?
这是直接来自我的 VBE MS Excel 2007 VBA 的小精华 clng 150 0 85 127 x 150 0 85 clng x 128 有人能解释这种行为吗 恕我直言 第一个表达式应该产生 128 0 5 四舍五入到最接近的
vba
casting
rounding
floatingaccuracy
IEEE“双精度”的精确文本表示
我需要以人类可读的文本形式表示 IEEE 754 1985 双 64 位 浮点数 条件是文本形式可以解析回exactly相同的 按位 数字 如果不打印原始字节 这是否可能 实用 如果是 那么执行此操作的代码将不胜感激 最佳选择 使用 C99
floatingpoint
floatingaccuracy
IEEE754
«
1
2
3
4
5
»