Python
Java
PHP
IOS
Android
Nodejs
JavaScript
Html5
Windows
Ubuntu
Linux
python中float的底层数据结构
有一个关于 Python 中浮点 和精度 的底层数据结构的问题 gt gt gt b 1 4 2 3 gt gt gt b 3 6999999999999997 gt gt gt c 3 7 gt gt gt c 3 70000000000
python
floatingpointprecision
当需要使用浮点数时,如何真正避免浮点错误?
我试图使用一些 UI 按钮将位置移动 0 1 或 0 1 来影响 3D 模型的平移 我的模型位置是一个三维浮点数 因此简单地向其中一个值添加 0 1f 会导致明显的舍入误差 虽然我可以使用 BigDecimal 之类的东西来保持精度 但我仍
设置 BigDecimal 的特定精度
我有一个XSD这要求我使用 BigDecimal 来表示纬度 经度 我目前将纬度 经度作为双精度数 并将它们转换为 BigDecimal 但我只需要使用大约 12 位精度 我一直不知道如何设置 谁能帮我这个 您可以使用设置比例 e g do
Java
BigDecimal
floatingpointprecision
32 位浮点数相加。
关于浮点数 我学到的东西比我想知道的还要多 可以说我需要添加 1 10000000 00000000000000000000000 1 01111000 11111000000000000000000 2的补码形式 第一位是符号 接下来的
floatingpoint
32bit
floatingpointprecision
为什么 g++(4.6 和 4.7)将此除法的结果提升为双精度?我可以阻止吗?
我正在编写一些模板代码来对使用浮点数和双精度数的数值算法进行基准测试 以便与 GPU 实现进行比较 我发现我的浮点代码速度较慢 在使用 Intel 的 Vtune Amplifier 进行调查后 我发现 g 正在生成额外的 x86 指令 c
c
templates
g
floatingpointprecision
intelvtune
C++ 数字精度和 fstream 截断
我有一个包含数百个数字的 file txt 它们在点后有很多数字 最多 20 个 我需要在不截断的情况下获取所有数字 否则它们会在以下计算中引入错误 我用 matlab 生成了这些数字 因此它具有极高的精度 但现在我必须在我的程序中复制这种
c
fstream
truncate
floatingpointprecision
digits
Go中的浮点运算
go 中的示例代码如下 package main import fmt func mult32 a b float32 float32 return a b func mult64 a b float64 float64 return a
floatingpoint
go
IEEE754
floatingpointprecision
双精度和浮点比较[重复]
这个问题在这里已经有答案了 根据这个帖子 当比较 float 和 double 时 float 应被视为 double 下面的程序 似乎并不遵循这个说法 这种行为看起来相当不可预测 这是我的程序 void main void double
c
floatingpoint
double
floatingpointprecision
双精度的精确二进制表示[重复]
这个问题在这里已经有答案了 可能的重复 C 中的浮点数转换为二进制 我有一个非常小的双变量 当我打印它时 我得到 0 使用 C 现在为了获得更好的精度我尝试使用 cout precision 18 i think 18 is the max
c
double
floatingpointprecision
编译时在浮点型和双精度型之间切换
如果我想在编译时在浮点精度和双精度之间切换 我应该在哪里查看 就像 如果用户想要所有内容都是浮点数而不是双精度 我如何保持这种灵活性 换句话说 我应该如何定义一个可以有条件地浮点或双精度的变量 如果可以在编译时进行切换 一个简单的方法typ
c
floatingpointprecision
doubleprecision
使用浮点变量作为循环计数器及其在非“==”条件下的小数增量/减量是否存在风险?
我们可以安全地使用浮点数作为循环计数器并在每次迭代时按小数部分递增 递减它们吗 就像下面看似无风险的程序一样 当然我知道使用浮点数作为操作数 但是 出于 正常 目的 使用浮点数作为其他比较运算的操作数有什么问题呢 我所说的 正常 是指 好吧
c
loops
floatingpoint
floatingpointprecision
loopcounter
在 Python 的 Decimal 类中设置精度
我刚刚学习了Python中的Decimal类 在修改十进制数字的精度时遇到了一些问题 代码 from decimal import def main getcontext prec 50 print Decimal 748327402479
python
floatingpoint
Decimal
floatingpointprecision
floating
浮点算术运算的精度是多少?
考虑下面两个非常简单的乘法 double result1 long double result2 float var1 3 1 float var2 6 789 double var3 87 45 double var4 234 987 r
C++ 如何避免浮点运算错误[重复]
这个问题在这里已经有答案了 我正在编写一个以浮点数递增的循环 但我遇到了以下示例所示的浮点算术问题 for float value 2 0 value lt 2 0 value 0 2 std cout lt lt value lt lt
c
floatingpoint
floatingpointprecision
使用 {0:g} 删除尾随零时,.format() 返回 ValueError
我正在尝试生成一个包含偶尔带有尾随零的浮点数的字符串 这是文本字符串的 MWE 我尝试使用以下命令删除它们 0 g xn cod r abc ccl 546 3500 6785 35416 ect 12 350 13 643241 text
python
string
formatting
floatingpointprecision
在 C++ 中进行数学运算时,浮点错误如何传播?
假设我们声明了以下变量 float a 1 2291 float b 3 99 float变量的精度为 6 这 如果我理解正确的话 意味着计算机实际存储的数字与您想要的实际数字之间的差异将小于10 6 这意味着两者a and b有一些误差小
c
floatingpoint
floatingaccuracy
floatingpointprecision
简单的浮点数会失去精度
我正在使用 Delphi XE2 Update 3 即使是最简单的浮点数也存在精度问题 例如3 7 给定以下代码 32 位控制台应用程序 program Project1 APPTYPE CONSOLE R res uses System
Delphi
floatingpointprecision
«
1
2