Python
Java
PHP
IOS
Android
Nodejs
JavaScript
Html5
Windows
Ubuntu
Linux
如何使用 JavaScript 四舍五入到任意数量的有效数字?
我尝试了下面的示例代码 function sigFigs n sig if n 0 return 0 var mult Math pow 10 sig Math floor Math log n lt 0 n n Math LN10 1 r
javascript
rounding
significantdigits
如何确定R中数据的有效数字数量?
我正在 R 中分析一个大型数据集 并且我对一列或一向量信息感兴趣 该向量中的每个条目都有不同数量 范围从 1 5 的有效数字 并且我想对该向量进行子集化 这样我就不会看到只有一位有效数字的数据 我可以使用什么样的测试或函数来让 R 报告每个
r
significantdigits
可以在不损失重要性的情况下转换为二进制并返回十进制的最高有效十进制数字精度是 6 还是 7.225?
我遇到过两种不同的浮点数精度公式 N 1 log10 2 6 decimal digits Single precision and N log10 2 7 225 decimal digits Single precision Where
如何在Python中将数字四舍五入为有效数字
我需要对要在用户界面中显示的浮动进行舍入 例如 一位有效数字 1234 gt 1000 0 12 gt 0 1 0 012 gt 0 01 0 062 gt 0 06 6253 gt 6000 1999 gt 2000 有没有一种使用 Py
python
Math
rounding
significantdigits
将数字向下舍入
I have numeric就像这个 a lt 1 542045 我想将它们四舍五入 或四舍五入abs 到小数点后 2 位 signif a 3 会将其向下舍入并给出 1 54 作为结果 但对于本示例 我想要的结果是 1 55 任何想法 我
r
significantdigits
为什么 python 十进制库不为某些输入返回指定数量的有效数字
NB 这个问题是关于有效数字 https en wikipedia org wiki Significant figures 这是not关于 小数点后的数字 或类似问题 EDIT 这个问题是not的副本小数模块中的有效数字 https st
python
Decimal
IEEE754
significantdigits
在 C# 中格式化带有有效数字的数字
我有一些十进制数据 正在将其推送到要查看的 SharePoint 列表中 我想根据我对具体计算的了解来限制结果数据中显示的有效数字的数量 有时它会是3 所以12345会变成12300 0 012345会变成0 0123 偶尔会是 4 或 5
c
significantdigits
有效数字四舍五入
在 iPhone 的 Xcode Objective C 中 我有一个值为 0 00004876544 的浮点数 如何让它在第一个有效数字之后显示到小数点后两位 例如 0 00004876544 将读取为 0 000049 我没有通过编译器
Objectivec
Math
floatingpoint
rounding
significantdigits
如何让excel显示一定数量的有效数字?
我正在使用 Excel 我想显示一定数量的有效数字的值 我尝试使用以下等式 ROUND value sigfigs 1 INT LOG10 ABS value value 替换为我正在使用的数字 sigfigs 替换为我想要的有效数字的数量
Excel
spreadsheet
rounding
significantdigits
用Python计算有效数字?
Python 有没有办法计算 double float etc 中的有效数字 我没有看到一个简单的方法来做到这一点 但我希望它能在图书馆中 提前致谢 您可能对任意精度浮点库感兴趣 例如 http code google com p mpma
python
Math
chemistry
significantdigits
查找 BigDecimal 中有效位数的好方法?
我不想限制 BigDecimal 中的有效位数 我只想找到该数字的有效位数 有没有办法做到这一点而不将数字转换为字符串并计算字符数 我相信你想要一个组合stripTrailingZeros precision and scale 如下所示
Java
BigDecimal
significantdigits
在轴上显示小数位和科学计数法
我正在使用 python 2 7 在 pyqt 程序中使用 matplotlib 绘制一些大数字 我的 y 轴范围为 1e 18 到 3e 18 通常 我希望看到每个刻度线以科学计数法显示值并保留两位小数 例如 2 35e 18 而不是 2
python
matplotlib
axislabels
significantdigits