Python
Java
PHP
IOS
Android
Nodejs
JavaScript
Html5
Windows
Ubuntu
Linux
在 PHP 中将值数组转换为单个浮点值?
我有一个包含这些值的数组 当数组打印为print r Array 0 gt 66 1 gt 233 2 gt 204 3 gt 205 十六进制值是 Array 0 gt 0x42 1 gt 0xE9 2 gt 0xCC 3 gt 0xCD
php
Arrays
floatingpoint
指数位数
是否可以设置用于打印浮点数指数的位数 我想将其设置为3 现在 f 0 0000870927939438012 gt gt gt 14e f 8 70927939438012e 05 gt gt gt 0 14e f 8 709279e 00
python
floatingpoint
exponent
为什么小数相加不正确?
我正在开发一个程序 您可以选择最多 3 件您想要分配积分的事情 举例来说 某项操作可让您获得 4 分 这 4 分将分配到您选择的 3 件事中 在本例中 这 3 件事各得 1 33333 分 在我的数据库中 它们存储为 1 33 然而当我把它
php
floatingpoint
Decimal
计算机如何进行浮点运算?
我看过很长的文章解释如何存储浮点数以及如何完成这些数字的算术运算 但请简要解释一下为什么当我写的时候 cout lt lt 1 0 3 0 lt
c
Math
floatingpoint
IEEE754
Numpy float64 与 Python float
我正在处理 Pandas read csv 函数中的一些浮点问题 在我的调查中 我发现了这一点 In 15 a 5 9975 In 16 a Out 16 5 9975 In 17 np float64 a Out 17 5 9974999
python
NumPy
floatingpoint
进行水平 SSE 向量和(或其他简化)的最快方法
给定一个由三个 或四个 浮点数组成的向量 对它们求和的最快方法是什么 SSE movaps shuffle add movd 总是比 x87 快吗 SSE3 中的水平相加指令值得吗 转移到 FPU 然后是 faddp faddp 的成本是多
Assembly
Optimization
floatingpoint
SSE
SIMD
DecimalFormat 的奇数结果四舍五入
提供一个浮点值37 35我得到一串37 3 这是我的代码 DecimalFormat format new DecimalFormat 0 format setRoundingMode RoundingMode HALF UP return
Java
floatingpoint
floatingpointconversion
SQL Server 为浮点数提供了额外的精度?
精度损失是一回事 但是精度增益 我有一个带有以下坐标的文本文件 41 88694340165634 87 60841369628906 当我将其粘贴到 SQL Server Mgmt Studio 表视图中时 结果如下 41 8869434
sqlserver
floatingpoint
如何处理浮动溢出?
如果某个值发生浮点溢出 我想将其设置为零 就像这样 m speed val if m speed gt numeric limits
c
errorhandling
floatingpoint
Overflow
“表达式不可分配”——在 Xcode 中将浮点数分配为其他两个浮点数之和时出现问题?
在钢琴应用程序中 我分配黑键的坐标 这是导致错误的代码行 blackKey 和 whiteKey 都是自定义视图 blackKey center x whiteKey frame origin x whiteKey frame size w
Objectivec
ios
floatingpoint
variableassignment
cgrect
具有特定数字的浮点精度
以下值给出了错误的精度 仅通过特定数字即可观察到这一点 可能是浮动表示问题 但想知道具体原因 String m 154572 49 154 572 49 Float f Float parseFloat m System out print
Java
floatingpoint
floatingaccuracy
是否有一个库类来表示浮点数?
我正在编写一个应用程序 它可以进行大量操作decimal数字 例如 57 65 由于乘法和除法很快会侵蚀它们的准确性 我想将数字存储在一个类中 以便在操作后保留它们的准确性 而不是依赖于 float 和 double 我正在谈论这样的事情
c
floatingpoint
Decimal
为什么 MySQL 以科学记数法返回一些浮点数,而不返回其他浮点数?
我正在编写一个 PHP 脚本 用于查看浮点值的数据库表 这些浮点值往往有点小 例如 0 00052 0 00134 0 00103 0 00149 0 00085 0 00068 0 00077 0 00088 0 00169 0 0006
php
mysql
floatingpoint
是否有与 C# 的十进制类型等效的 C 语言?
和 关联 将十进制转换为双精度 https stackoverflow com questions 4 convert decimal to double 现在 我遇到了许多与 C 的浮点类型相关的问题 称为decimal我已经看到了两者的
c
floatingpoint
Decimal
pandas 和 numpy 的平均值不同
我有一个 MEMS IMU 我一直在其上收集数据 并使用 pandas 从中获取一些统计数据 每个周期收集 6 个 32 位浮点数 对于给定的收集运行 数据速率是固定的 数据速率在 100Hz 到 1000Hz 之间变化 收集时间长达 72
python
pandas
NumPy
floatingpoint
floatingaccuracy
x86 中不同数学函数的性能?
我正在编写 3D 碰撞 想知道基本数学函数 如 sqrt pwr 三角函数 如 sin cos tan arcsin 的性能差异 我听说这取决于许多其他因素 所以我只是想粗略地了解哪一个速度较慢并且需要避免 同时寻找不同的方法来解决问题 我
c
performance
Math
floatingpoint
如何指定浮点数的舍入模式?
我想将浮点数四舍五入到最接近的整数 当存在 最接近的整数 时 趋向正无穷大 use std num Float fn main assert eq 0 0 0 5 round fails 但是 文档round say 将中途情况舍入到远离
floatingpoint
Rust
rounding
安卓smali问题
我目前正在对 smali 代码混淆器 进行一些研究 并且目前正在尝试熟悉反编译的源代码 为此 我创建了一个简单的应用程序并通过 smali 对其进行了反编译 我现在试图了解反编译的源代码 以改进和比较稍后使用代码混淆器后的安全性 针对反编译
Android
floatingpoint
decompiling
opcodes
如何测试无损双精度/整数转换?
我有一个 double 和一个 int64 t 我想知道它们是否具有完全相同的值 以及将一种类型转换为另一种类型是否不会丢失任何信息 我当前的实现如下 int int64EqualsDouble int64 t i double d ret
c
floatingpoint
Integer
double
相当于 float128
如何使用等效的 float128在Python中 我应该使用什么精度decimal getcontext 我的意思是 精度是以小数位还是位指定的 from decimal import getcontext prec 34 or 128 是
python
floatingpoint
precision
arbitraryprecision
«
1 ...
5
6
7
8
9
10
11
...44
»