Python
Java
PHP
IOS
Android
Nodejs
JavaScript
Html5
Windows
Ubuntu
Linux
Java - 一次双加法/减法的最大精度损失
是否有可能确定 即使是粗略地 处理两个数据时的最大精度损失是多少 doublejava中的值 加 减 最糟糕的情况可能是两个数字无法精确表示 然后对它们执行运算 结果得到的值也无法精确表示 最坏的情况是all精度可能会丢失 例如 如果结果大
Java
double
floatingpointprecision
doubleprecision
C++:0.和0.0之间的区别?
我很清楚之间的区别0 and 0 0 整数和双精度 但这之间有什么区别吗0 and 0 0 请注意 预先非常感谢 Axel 没有区别 两个文字都是双精度的 来自 C 语法 fractional constant digit sequence
c
grammar
doubleprecision
奇怪的乘法结果
在我的代码中 我在 C 代码中进行了乘法运算 所有变量类型均为 double f1 0 f1 rot 0 xu 0 f1 rot 1 yu 0 f1 1 f1 rot 0 xu 1 f1 rot 1 yu 1 f1 2 f1 rot 0 x
c
multiplication
OpenMPI
doubleprecision
Java BigDecimal精度问题
我知道以下行为是一个老问题 但我仍然不明白 System out println 0 1 0 1 0 1 或者即使我使用BigDecimal System out println new BigDecimal 0 1 doubleValue
Java
BigDecimal
doubleprecision
JavaScript 有双浮点数精度吗?
我知道这是一个奇怪的问题 但是 JavaScript 是否有能力处理双精度浮点数而不是单浮点数 64 位浮点数与 32 位浮点数 JavaScript 中的所有数字都是 64 位浮点数 Ref http www hunlock com bl
javascript
floatingpoint
numerical
doubleprecision
用小数字代替零?
我一直在制作一个矩阵类 作为学习练习 并且在测试我的反函数时遇到并发出问题 我输入一个任意矩阵 2 1 1 1 2 1 1 1 2 并让它计算逆 我得到了正确的结果 0 75 0 25 0 25 0 25 0 75 0 25 0 25 0
c
Math
doubleprecision
计算值太大而无法求幂的马尔可夫链概率
我使用公式 exp X 作为马尔可夫链的速率 因此选择一个链接相对于另一个链接的比率是 exp X1 exp X2 我的问题是有时X很大 所以exp X 会超出范围double 或者 给定一个 X i 数组 其中一些 X i 太大 以致 e
Java
Estimation
doubleprecision
markovchains
EXP
std::erf 的精度是多少?
C 11 在标准中引入了非常有用的数学函数 例如erf http en cppreference com w cpp numeric math erf and erfc http en cppreference com w cpp nume
Math
C11
precision
doubleprecision
使用双打时,为什么 (x / (y * z)) 与 (x / y / z) 不同? [复制]
这个问题在这里已经有答案了 这部分是学术性的 因为就我的目的而言 我只需要四舍五入到小数点后两位 但我很想知道发生了什么会产生两个略有不同的结果 这是我编写的测试 旨在将其缩小为最简单的实现 Test public void shouldE
Java
double
rounding
doubleprecision
operatorprecedence
使用双精度浮点实现的整数乘法是否精确到 2^53?
我问这个问题是因为我正在计算矩阵乘法 其中所有矩阵值都是整数 我想使用 LAPACK 以便获得正确的快速代码 两个大整数 其乘积小于2 53 存储为doubles 相乘 得到 adouble包含精确的整数结果 你的分析是正确的 All in
Math
floatingpoint
linearalgebra
Lapack
doubleprecision
由于 float 和 double 的精度有限而导致的错误
在C 中 我使用以下代码来计算由于float和double的精度有限而导致的误差的数量级 float n 1 float dec 1 while n n dec dec dec 10 cout lt lt dec lt lt endl 在
c
floatingaccuracy
doubleprecision
对于大 n,java.lang.Math.pow(x, n) 的准确/精确度如何?
我想计算一下 1 0 p n其中 p 是 0 到 1 之间的双精度值 通常非常接近 0 n 是一个正整数 可能约为数百或数千 可能更大 我还不确定 如果可能的话我想只使用Java的内置java lang Math pow 1 0 p n 为
GLSL 双精度角度、三角函数和指数函数解决方法
在 GLSL 中 可以找到对双精度变量和运算的基本支持here 然而他们也提到 角度 三角学和指数的双精度版本 不支持功能 有没有一个简单的解决方法 或者我必须从头开始编写自己的函数 这个链接似乎是最好的答案 所以 是的 您需要为这些函数创
OpenGL
double
GLSL
doubleprecision
浮点表示错误?
当我做这个乘法时 0 94 8700 输出是 8177 999999999999 但它本来应该是 8178 我正在使用 java 但我不认为这个错误与特定的编程语言有关 现在我的问题是 为什么会发生这种事 还有哪些其他数字 仅作为示例 会导
floatingpoint
floatingaccuracy
doubleprecision
C++ 从二进制文件中写入和读取双精度数
我想对占用过多 RAM 的程序执行磁盘 I O 操作 我使用双精度矩阵 并认为将它们作为字节写入磁盘是最快的方法 我需要保留双精度 如何做到便携呢 我找到了这段代码 here 但作者说它不可移植 include
c
IO
portability
binaryfiles
doubleprecision
如何使用 fmod 并避免精度问题
我将把这个问题归结为最简单的形式 让我们从 0 5 0 开始迭代 步长为 0 05 并打印出 X 每乘以 0 25 for double d 0 0 d lt 5 0 d 0 05 if fmod d 0 25 is equal 0 pri
c
precision
modulus
doubleprecision
编译时在浮点型和双精度型之间切换
如果我想在编译时在浮点精度和双精度之间切换 我应该在哪里查看 就像 如果用户想要所有内容都是浮点数而不是双精度 我如何保持这种灵活性 换句话说 我应该如何定义一个可以有条件地浮点或双精度的变量 如果可以在编译时进行切换 一个简单的方法typ
c
floatingpointprecision
doubleprecision
java中双精度乘法的精度?
java中双精度值的乘法运算符的保证精度是多少 例如 2 2 100 是 220 00000000000003 但 220 是双精度数 220 00000000000003 是 220 之后的下一个双精度值 乘法工作正常 但是2 2不能精确
Java
floatingpoint
multiplication
doubleprecision