Python
Java
PHP
IOS
Android
Nodejs
JavaScript
Html5
Windows
Ubuntu
Linux
在这种情况下我应该如何舍入浮点数?
由于同一浮点数可以有多种表示形式 我的代码中遇到了问题 例如 这些数字被认为是相同的 0 0299999400 0 0300000000 我不太关心大精度 我需要计算CRC这些数字的数量 它们应该是相同的 所以我的方法是使用以下代码 pri
c
floatingpoint
floatingaccuracy
JavaScript 中浮点数的除法
我试图将屏幕宽度除以一个变量 以便在 web 视图中绘制等距的 UI 部分 然而 当变量为 3 时 100 3 在 JavaScript 中结果为 33 3333333333333336 并且第三部分无法按预期绘制 因为商的总和大于 100
javascript
floatingpoint
Division
floatingaccuracy
Java 的算术精度更高
我正在用 Java 构建一个 Web 应用程序 它可以进行数学运算并向用户显示步骤 当使用小数进行基本算术时 我经常会得到准确输出的混乱结果 这是我的问题 double a 0 15 double b 0 01 System out pri
Java
Math
floatingaccuracy
浮点数学有问题吗?
考虑以下代码 0 1 0 2 0 3 gt false 0 1 0 2 gt 0 30000000000000004 为什么会出现这些不准确的情况 Binary 浮点 https en wikipedia org wiki Double p
Math
floatingpoint
languageagnostic
precision
floatingaccuracy
在 C# 中接受浮点不准确有什么好处
我一直在想这个问题last https stackoverflow com questions 4598416 fourier transform rounding error few https stackoverflow com que
c
floatingpoint
floatingaccuracy
使用 Contains 方法检查 List
中的 float 时的 C# 准确性
我有一个清单floats 并想要检查它是否已经包含特定值List Contains 方法 我知道对于float您经常无法使用的相等性测试 但类似的东西myFloat value lt 0 001 我的问题是 Contains方法说明了这一点
c
list
contains
floatingaccuracy
不同处理器上的浮点计算是否会有所不同? (+在 C# 和 C 之间传递双精度数)
我有一个用 C 编写的应用程序 它也调用一些 C 代码 C 代码获取一些双精度值作为输入 对其执行一些计算 将其传递到本机层 由本机层对其执行自己的计算 然后传回 C 层 如果我在不同的机器上运行相同的exe dll 它们都是Intel的x
c
floatingpoint
floatingaccuracy
浮点计算使用 float 给出的结果与使用 double 给出的结果不同
我有以下代码行 hero gt onBeingHit ENEMY ATTACK POINT 1 0 hero gt getDefensePercent void onBeingHit int decHP 方法接受整数并更新健康点 float
c
floatingpoint
double
floatingaccuracy
PHP - WAMP 和 Web 服务器上的浮点数精度差异
我知道 php 浮点数不准确 https www php net manual en language types float php我知道像这样的解决方案BCMath https www php net manual en book bc
php
wamp
floatingaccuracy
浮点不准确示例
Locked 这个问题及其答案是locked help locked posts因为这个问题是题外话 但却具有历史意义 目前不接受新的答案或互动 您如何向仍然认为计算机无限聪明和准确的新程序员和外行解释浮点不准确 您是否有一个最喜欢的例子或
floatingpoint
floatingaccuracy
ruby 计算浮点数是否错误? [复制]
这个问题在这里已经有答案了 这里出了什么问题 红宝石版本 1 9 2p290 2011 07 09 修订版 32553 x86 64 darwin11 0 0 x 523 8 w 46 9 xm x w assert equal w xm
ruby
floatingpoint
floatingaccuracy
为什么 0.1 + 0.1 == 0.2?
这是关于Java的 据我了解 由于二进制表示形式 Java 无法完美表示 0 1 这使得 0 1 0 1 0 1 0 3 错误的 然而 为什么 0 1 0 1 0 2 给出真实的 由于二进制表示形式 0 1 无法用 Java 完美表示 这使
floatingpoint
precision
floatingaccuracy
为什么 GDB 计算浮点运算的方式与 C++ 不同?
我在尝试处理浮点算术问题时遇到了一些令人困惑的事情 首先 代码 我将问题的本质提炼到这个例子中 include
c
floatingpoint
GDB
floatingaccuracy
R 的 t 分布表示“可能尚未实现完全精度”
我正在处理一个问题 通常需要计算 R 中尾部相当远的 t 分布的密度 例如 使用 R 的 t 分布函数 dt 1 424781 1486 5 回报 1 2 75818e 10 我的一些最终输出 使用此密度作为输入 与我的同事在 MATLAB
r
distribution
floatingaccuracy
在 C++ 中向 Float/Double 类型添加 0
我听说像 0 1 0 2 这样的浮点运算可能会由于内部使用二进制浮点而产生像 0 30000000000000004 这样的舍入误差 但是 如果我在 C 中向任何浮点数添加 0 是否能保证产生相同的值而没有任何舍入误差 我不知道浮点运算是如
precision
floatingaccuracy
铸造浮动是否具有破坏性?
在 PHP 中 我知道我们不应该这样做math在没有 bcmath 之类的东西的浮动上 但这仅仅是casting字符串浮动具有破坏性 会表达像 float 5 111 5 111 永远是真的吗 或者演员本身会将其更改为类似的内容5 1110
php
floatingpoint
escaping
floatingaccuracy
射线和椭球相交精度提高
我需要提高我的一个功能的精度大气散射 GLSL 片段着色器 https stackoverflow com a 19659648 2521214它计算单射线和轴对齐椭球体之间的交集 这是矿山大气散射着色器的核心功能 旧的原始着色器已打开fl
geometry
GLSL
Shader
floatingaccuracy
artifacts
浮点精度误差
我对下面的 LISP 表达式有疑问 对浮点数求和时存在浮点精度误差 CL USER gt 380 158 27 35 52 Actual 573 79004 Expected 573 79000 请建议我如何在 LISP 中达到预期的结果
lisp
commonlisp
floatingaccuracy
lispworks
检查浮点参数是否正确
我想编写一个代表马尔可夫链的类 让我们将其命名为MC 它有一个构造函数 它接受状态转换矩阵 即vector
c
constructor
floatingpoint
floatingaccuracy
为什么我不能乘以浮点数? [复制]
这个问题在这里已经有答案了 可能的重复 处理浮点数的精度问题 https stackoverflow com questions 590822 dealing with accuracy problems in floating point
c
floatingpoint
floatingaccuracy
«
1
2
3
4
5
»