Python
Java
PHP
IOS
Android
Nodejs
JavaScript
Html5
Windows
Ubuntu
Linux
如何在 C++11 constexpr 中检查双精度位模式是否为 0x0?
我想检查给定的双精度 浮点变量是否具有实际的位模式 0x0 别问为什么 Qt 中的一个函数中使用了它 qIsNull 我想成为constexpr 原始代码使用了联合 union double d int64 t i u u d d retu
c
casting
C11
floatingpoint
constexpr
用于查找小数/浮点数的正则表达式?
我需要一个十进制 浮点数字的正则表达式 例如 12 12 2 1236 32 123 333 和 12 00 或 12 00 或 123 123 以便在 javascript 和 jQuery 中使用 谢谢 可选地在开头匹配 或 后跟一个或
javascript
regex
floatingpoint
Decimal
double、long double、float 和 float128 的比较?
为什么 double long double 或 float 之间没有区别 例如 计算pi in C is include
c
floatingpoint
arithmeticexpressions
浮点文字与浮点变量的奇怪编译器行为
我注意到 C 编译器的浮点舍入 截断有一个有趣的行为 也就是说 当浮点文字超出保证的可表示范围 7 位十进制数字 时 a 将浮点结果显式转换为浮点 语义上不必要的操作 和 b 将中间计算结果存储在局部变量中都会更改输出 一个例子 using
c
compilerconstruction
floatingpoint
比较 pandas 列中的浮点数
我有以下数据框 actual credit min required credit 0 0 3 0 4 1 0 5 0 2 2 0 4 0 4 3 0 2 0 3 我需要添加一列 指示actual credit gt min require
python
pandas
floatingpoint
floatingpointcomparison
inexactarithmetic
为什么非正规浮点值处理起来较慢?
通常情况下 消耗或产生非正规值的浮点值比其他情况慢 有时慢得多 为什么会这样呢 如果是因为它们被软件捕获而不是直接在硬件中处理 据说在某些 CPU 上就是如此 那么为什么它们必须这样做呢 对于 IEEE 754 浮点 遇到的大多数操作数都是
floatingpoint
cpuarchitecture
alu
长时间处于浮动状态,为什么?
long b 99 float c 99 0F b c Error Cannot implicitly convert type float to long c b Running Successfully Why 为什么数据类型的大小和隐
c
types
floatingpoint
在 C++ 中进行数学运算时,浮点错误如何传播?
假设我们声明了以下变量 float a 1 2291 float b 3 99 float变量的精度为 6 这 如果我理解正确的话 意味着计算机实际存储的数字与您想要的实际数字之间的差异将小于10 6 这意味着两者a and b有一些误差小
c
floatingpoint
floatingaccuracy
floatingpointprecision
查找浮点类型可以在不损失精度的情况下处理的最大整数大小
Double 的范围大于 64 位整数 但由于其表示形式 其精度较低 因为 double 也是 64 位 因此无法容纳更多实际值 因此 当表示较大的整数时 整数部分的精度开始下降 include
c
floatingpoint
double
precision
可以精确表示为浮点数/双精度数的整数范围[重复]
这个问题在这里已经有答案了 可以表示为双精度 或浮点数 的 连续 整数的确切范围是多少 我问的原因是因为我很好奇诸如此类的问题当发生准确性损失时 That is 最小的正整数是多少m这样m 1不能精确地表示为双精度 或浮点数 最大的负整数是
c
Java
floatingpoint
Integer
double
快速浮点到整数转换(截断)
我正在寻找一种方法来截断float进入一个int以快速且便携 IEEE 754 的方式 原因是因为在这个函数中 50 的时间都花在了强制转换上 float fm sinf float x const float a 0 0073524681
c
Optimization
floatingpoint
truncate
将张量值以二进制格式保存到文件的最佳方法是什么?
我正在尝试将张量值以二进制格式保存到文件中 特别是我试图将 float32 张量值保存为二进制格式 IEEE 754 格式 请你帮助我好吗 import tensorflow as tf x tf constant 1 0 2 0 3 0
python
tensorflow
floatingpoint
默认浮点类型是什么?
如果在变量上指定浮点类型a the abs可以使用函数 以下示例正在运行 fn main let a 1 0f64 println a abs 它打印1正如预期的那样 但如果f64省略时 编译期间会引发错误 如下例所示 fn main le
floatingpoint
Rust
SIMD 最小磁极和最大磁极
我想实现SIMD最小磁极和最大磁极函数 据我了解这些功能是 minmag a b a lt b a b maxmag a b a gt b a b 我想要这些浮点型和双精度型 我的目标硬件是 Haswell 我真正需要的是计算两者的代码 这
Assembly
floatingpoint
x86
SSE
avx
实数 - 如何确定是否需要 float 或 double?
给定一个真实值 我们可以检查是否float数据类型足以存储数字 或者double是必须的 我知道精度因架构而异 是否有任何 C C 函数可以确定正确的数据类型 有关背景 请参阅每个计算机科学家都应该了解的浮点运算知识 不幸的是 我认为没有任
c
floatingpoint
在有限的 16 字节字符串上将 IEEE 754-1985 双写为 ASCII
这是我的后续原帖 但为了清楚起见 我会重复一遍 根据 DICOM 标准 可以使用十进制字符串的值表示来存储浮点类型 看表 6 2 1 DICOM 值表示 十进制字符串 表示固定数字的字符串 点数或浮点数 固定点数应 仅包含字符 0 9 并带
c
floatingpoint
precision
如何在现代 C++ 中将 float 转换为 int
尽管看起来很奇怪 但我找不到如何干净地转换float to an int 这种技术 int int value int float value 0 5 触发一个 warning use of old style cast in gcc 那么
c
casting
floatingpoint
将浮点数转换为字符串的最快 C++ 方法
我遇到了将浮点数转换为字符串的问题to string对我来说太慢了 因为我的数据可能涉及几百万个浮点数 我已经有了解决方案如何快速写出这些数据 然而 在解决这个问题之后 我很快意识到浮点到字符串的转换正在留下很大的影响 那么 除了使用其他非
c
C11
floatingpoint
formatting
红宝石浮点精度
据我了解 Ruby 1 9 2 浮点数的精度为 15 位十进制数字 因此 我期望舍入浮动x精确到小数点后 15 位等于x 对于此计算 情况并非如此 x 0 33 10 x x round 15 gt false 顺便说一下 四舍五入到 16
ruby
floatingpoint
floatingaccuracy
C语言中通过整数转换进行浮点数比较
我想得到一个确切 精确的答案 为什么以下代码打印不同的结果 include stdio h int main void int a 9 int b 10 printf d n double a double b 0 9 prints 0 p
c
gcc
floatingpoint
Comparison
«
1 ...
37
38
39
40
41
42
43
»