Python
Java
PHP
IOS
Android
Nodejs
JavaScript
Html5
Windows
Ubuntu
Linux
python 为什么以及如何截断数值数据?
我在这里处理两个变量 但很困惑 因为当我想将它们作为 URL 参数按原样发送时 它们的值似乎正在变化 它们失去了精度 看看我用 python 解释器重现的这个场景 gt gt gt lat 0 33245794180134 gt gt gt
python
serialization
floatingaccuracy
Numpy:点(a,b)和(a * b).sum()之间的差异
对于一维 numpy 数组 这两个表达式应该产生相同的结果 理论上 a b sum a sum dot a b a sum 后者使用dot 并且速度更快 但哪一个更准确呢 为什么 接下来是一些上下文 我想使用 numpy 计算样本的加权方差
python
NumPy
scipy
precision
floatingaccuracy
在 c 中舍入时遇到问题
在尝试弄清楚如何舍入浮点数时1 255精确到百分之一 我发现了一些有趣的事情 我在 Debian 6 上使用 gcc 4 4 5 int x 1 255 100 0 5 gives me back 125 instead of 126 fl
c
floatingpoint
rounding
floatingaccuracy
理解php中的浮点数
我知道这些问题可能会被很多人问到 但从我的阅读和测试来看 它让我有点困惑 而且我所做的很多阅读让我更加困惑 因为它非常复杂 有些人似乎对简单的比较有问题 但我自己没有问题 例如 num1 27 64 num2 27 64 if num1 n
php
floatingpoint
floatingaccuracy
最小的 i 且 1/i == 1/(i+1)?
Someone reverse sorted by 1 i instead of the usual i and it made me wonder What is the smallest positive integer case wh
python
floatingpoint
precision
IEEE754
floatingaccuracy
十进制浮点数与二进制的相互转换
简而言之 我的问题是 为什么浮点数中的舍入误差仅在计算后出现 而不是在存储文字时出现 我的意思是这样的 我知道在十进制与二进制相互转换时由于浮点数的舍入误差而出现的问题 例如 在 Java 中 double a 10 567 double
Binary
floatingpoint
Decimal
precision
floatingaccuracy
由于 float 和 double 的精度有限而导致的错误
在C 中 我使用以下代码来计算由于float和double的精度有限而导致的误差的数量级 float n 1 float dec 1 while n n dec dec dec 10 cout lt lt dec lt lt endl 在
c
floatingaccuracy
doubleprecision
对于大 n,java.lang.Math.pow(x, n) 的准确/精确度如何?
我想计算一下 1 0 p n其中 p 是 0 到 1 之间的双精度值 通常非常接近 0 n 是一个正整数 可能约为数百或数千 可能更大 我还不确定 如果可能的话我想只使用Java的内置java lang Math pow 1 0 p n 为
精确浮点计算两个乘积的和与差
两个乘积之差和两个乘积之和是在各种常见计算中发现的两个原语 diff of products a b c d ab cd 和 sum of products a b c d ab cd 是密切相关的伴随函数 仅部分操作数的符号不同 使用这些
Algorithm
floatingpoint
floatingaccuracy
如果存储在中间“double”变量中,浮点计算会发生变化
我正在尝试编写一个简单的以 2 为底的对数方法 我知道在计算机上表示 std log 8 0 和 std log 2 0 之类的东西很困难 我还了解 std log 8 0 std log 2 0 可能会导致值略低于 3 0 我不明白的是
c
floatingpoint
double
floatingaccuracy
最小化 C 中浮点错误的经验法则?
关于最小化浮点运算中的错误 如果我在 C 中有如下操作 float a 123 456 float b 456 789 float r 0 12345 a a r b 如果我将乘法和减法步骤分开 计算结果会改变吗 即 float c r b
c
floatingpoint
32bit
floatingaccuracy
Python 中的 Decimal 对象的除法和乘法
在以下代码中 coeff1 和 coeff2 都是 Decimal 对象 当我使用 type coeff1 检查它们的类型时 我得到 类 decimal Decimal 但是当我编写测试代码并检查十进制对象时 我得到十进制 十进制 不带词类
python
computerscience
floatingaccuracy
c 中浮动奇怪的不精确错误[重复]
这个问题在这里已经有答案了 今天发生在我身上的一件奇怪的事情 当我尝试编译和执行这段代码的输出不是我所期望的 下面的代码只是将浮点值添加到浮点数组中 然后将其打印出来 简单的代码 int main float r 10 int z int
c
floatingpoint
floatingaccuracy
approximation
使用 PHP 截断浮点数
当一个浮点数需要截断为浮点后的某个数字时 事实证明这并不容易做到 例如 如果必须截断到点后的第二位数字 则数字应该是 45 8976 gt 45 89 0 0185 gt 0 01 点后第二位数字不按点后第三位数字四舍五入 功能类似于rou
php
floatingpoint
truncate
floatingaccuracy
当需要使用浮点数时,如何真正避免浮点错误?
我试图使用一些 UI 按钮将位置移动 0 1 或 0 1 来影响 3D 模型的平移 我的模型位置是一个三维浮点数 因此简单地向其中一个值添加 0 1f 会导致明显的舍入误差 虽然我可以使用 BigDecimal 之类的东西来保持精度 但我仍
JavaScript 中处理大数 (BigNum) 的标准解决方案是什么?
JavaScript 或浏览器中是否内置了 bignum 另一种方法是加载外部库 例如 但这似乎很慢并且可能会触发安全警告 我考虑过自己的基础http github com silentmatt javascript biginteger
javascript
floatingaccuracy
bignum
为什么 double 类型的变量会产生意外的结果?
我的健全性检查失败了 因为双精度变量不包含预期的结果 这真的很奇怪 double a 1117 54 8561 64 13197 37 double b 22876 55 Console WriteLine 0 1 2 a b a b 给我
NET
variables
floatingpoint
floatingaccuracy
Python 2.6 与 2.7 中的浮点行为
所以我打开了 Python 2 6 解释器 得到了这个 Python 2 6 6 r266 84292 Nov 22 2013 12 16 22 GCC 4 4 7 20120313 Red Hat 4 4 7 4 on linux2 Ty
python
python27
floatingpoint
python26
floatingaccuracy
浮点比较特定
我有一个关于浮点比较的具体问题 我知道由于精度问题 不建议使用 比较 但在这种特定情况下 我想知道在所有情况 编译器中 此语句是否都成立 float a 1 02f float b 1 02f if a b print true else
c
floatingaccuracy
将 double 转换为 int 的结果是错误的
当我运行以下代码时 似乎存在某种模糊的舍入错误 int roundedTotal int PriorityJob 100 0 最初PriorityJob 1 4 and roundedTotal未定义 评估PriorityJob 100 0
c
casting
floatingaccuracy
«
1
2
3
4
5
»