Python
Java
PHP
IOS
Android
Nodejs
JavaScript
Html5
Windows
Ubuntu
Linux
降低Python中的浮点精度以提高性能[重复]
这个问题在这里已经有答案了 我正在树莓派上使用 python 我使用互补滤波器从陀螺仪中获得更好的值 但它消耗了太多树莓派的电量 大约为 70 我认为可以通过降低浮点精度来提高性能 现在 结果大约有 12 位小数 这超出了我的需要 有什么办
python
performance
RaspberryPi
floatingpointprecision
如何安全地将 CGFloat 降低或提高到 int?
我经常需要在地板或天花板上安装CGFloat to an int 用于计算数组索引 我永远看到的问题floorf theCGFloat or ceilf theCGFloat 是浮点不准确可能会带来麻烦 那如果我的CGFloat is 2
ios
Math
floatingpoint
floatingaccuracy
floatingpointprecision
Ruby - 乘法问题
我的输出是这样的 ruby 1 9 2 p290 011 gt 2 32 3 gt 6 959999999999999 我记得有一天在另一台机器上我得到了它就像 2 32 3 6 我的错误是什么 非常感谢您阅读本文 如果您确实想向下舍入为整
ruby
rubyonrails31
multiplication
floatingpointprecision
cout 可以以某种方式改变变量吗?
所以我有一个看起来像这样的函数 float function float x SomeValue return x SomeOtherValue 在某些时候 这个函数会溢出并返回一个非常大的负值 为了尝试准确追踪发生这种情况的位置 我添加了
c
floatingpoint
cout
cpuregisters
floatingpointprecision
这是一个有效的浮点数比较,它占了一定的小数位数吗?
我正在编写一个扩展方法来使用一组小数点 有效数字 来比较两个浮点数 以确定它们是否相等而不是容差或百分比差异 浏览有关浮动比较的其他问题 我看到了复杂的实现 我是否过于简单化了或者这是否有效
c
floatingpoint
floatingpointprecision
从 VB6 和 C# 调用 DLL 给出的双精度结果略有不同
我在 DLL 中有一个专有库 我没有代码 该库已在 VB6 中使用多年 我正在尝试将VB6代码升级到C 并希望使C 代码完全复制VB6的行为 当从每个环境调用时 我无法使 DLL 中完成的某些计算的双精度结果完全匹配 在 VB6 中 我有类
c
VB6
Migration
double
floatingpointprecision
精确存储大整数
在R软件中 a lt 123456789123456789123456789 sprintf 27f a 1 123456789123456791337762816 000000 我得到了错误的答案 我想要准确的a value 为什么系统显
r
Algorithm
precision
floatingpointprecision
Math.Tan() 接近 -Pi/2 在 .NET 中错误,在 Java 中正确?
我的单元测试失败了Math Tan PI 2 在 NET 中返回错误版本 预期 值取自 Wolfram 在线 使用 Pi 2 的拼写常数 自己看看here http www wolframalpha com input i tan 28 1
Java
NET
floatingpointprecision
Java - 一次双加法/减法的最大精度损失
是否有可能确定 即使是粗略地 处理两个数据时的最大精度损失是多少 doublejava中的值 加 减 最糟糕的情况可能是两个数字无法精确表示 然后对它们执行运算 结果得到的值也无法精确表示 最坏的情况是all精度可能会丢失 例如 如果结果大
Java
double
floatingpointprecision
doubleprecision
C# 浮点精度
谁能向我解释一下这里发生了什么 using System using System Text namespace ConsoleApplication1 class Program static void Main string args
c
NET
floatingpoint
floatingpointprecision
floatingpointconversion
长双精度文字的 C++ 后缀是什么?
在 C 和 C 中 不带后缀的浮点文字默认为double 而后缀f意味着一个float 但是获得 a 的后缀是什么long double 在不知道的情况下 我会定义说 const long double x 3 14159265358979
c
literals
floatingpointprecision
双打会遭受溢出吗?
双精度浮点数或浮点数是否可能发生溢出 环绕 如果在 x86 或 x64 硬件上达到最大值 或最小值 会发生什么情况 在符合 IEEE 754 标准的系统上 溢出会导致特殊的 无穷大 或 负无穷大 值 超过该值 任何进一步的增量都将不起作用
c
floatingpoint
floatingpointprecision
floatingpointexceptions
将 float 转换为 UInt32 - 哪个表达式更精确
我有一个号码float x它应该在 范围内 但它经过多次数值运算 结果可能稍微超出 范围 我需要将这个结果转换为uint y使用整个范围的UInt32 当然 我需要夹住x在 范围内并对其进行缩放 但哪种操作顺序更好呢 y uint roun
c
floatingpoint
floatingpointprecision
numericalstability
是否可以在 GHC/Haskell 中使用扩展精度(80 位)浮点运算?
标准哈斯克尔Double http hackage haskell org packages archive base latest doc html Prelude html t 3aDouble uses 标准双精度算术 https e
C 是否对浮点常量进行舍入
关于Go中浮点精度的一个问题 https stackoverflow com questions 22337418 golang floating point precision float32 vs float64让我想知道C是如何处理这
c
floatingpoint
floatingpointprecision
可以在不损失重要性的情况下转换为二进制并返回十进制的最高有效十进制数字精度是 6 还是 7.225?
我遇到过两种不同的浮点数精度公式 N 1 log10 2 6 decimal digits Single precision and N log10 2 7 225 decimal digits Single precision Where
处理大数时的中点“四舍五入”?
所以我试图理解 JavaScript 在处理大数时的行为 请考虑以下事项 在 Firefox 和 Chrome 中测试 console log 9007199254740993 9007199254740992 console log 90
javascript
floatingpoint
floatingpointprecision
floatingpointconversion
通用浮点数学查询
好吧 我知道有些数字无法用二进制正确表示 就像 1 3 无法完全用十进制表示一样 那么为什么当我 console log 0 3 它返回 0 3 但是当我 console log 0 1 0 2 它返回 0 3000000000000000
javascript
Math
floatingpointprecision
perl 打印浮点数的精度是多少?
my num log 1 000 000 log 10 print num num n print int num int num n print sprintf num sprintf 0 16f num n 产生 num 6 int n
perl
floatingpointprecision
为什么 scipy.stats.nanmean 给出与 numpy.nansum 不同的结果?
gt gt gt import numpy as np gt gt gt from scipy import stats gt gt gt a np r 1 2 np nan 4 5 gt gt gt stats nanmean a 2 9
python
NumPy
floatingpoint
scipy
floatingpointprecision
1
2
»