Python
Java
PHP
IOS
Android
Nodejs
JavaScript
Html5
Windows
Ubuntu
Linux
如何删除前导“0”。在数值 R 变量中
如何简洁地更改数字 R 变量 保持其数字 以便例如 0 34 变成简单的 34 仅当输出数值时 才必须选择具体的表示形式 即数字的格式 您不能将数值变量从 0 34 更改为 34 两者都是同一数字的表示 但是 当您输出表达式时e 您可以选择
r
formatting
Decimal
计算系统.小数精度和小数位数
假设我们有一个 System Decimal 数字 为了便于说明 我们以 ToString 表示如下 d ToString 123 4500 关于这个 Decimal 可以说如下 出于我们的目的 比例被定义为小数点右侧的位数 有效标度类似
NET
Decimal
如何在 Pi 的 C# 程序中将小数精确到 n 位
对于这个问题Pi in C https stackoverflow com questions 39395 how do i calculate pi in c 我编写了下面的代码 并给出了最后 6 位数字为 0 的输出 所以我想通过将所有
c
Decimal
precision
PI
C# 小数类型除法的精度在 Mono 上不同?
decimal d1 4 0m decimal d2 40 0m decimal d d1 d2 string repr d ToString 在 Windows 上 我得到的 repr 为 0 1 在 Mono Xamarin Andro
c
MONO
XamarinAndroid
Decimal
Java中使用幂法计算n次方根
我试图在java中使用得到立方根Math pow n 1 0 3 但因为它除以双精度数 所以它不会返回确切的答案 例如 对于 125 结果为 4 9999999999 有解决方法吗 我知道有一个立方根函数 但我想解决这个问题 以便我可以计算
Java
Math
double
Decimal
nthroot
在 C/C++ 中高效地在十六进制、二进制和十进制之间转换
我有 3 种正整数的基本表示形式 十进制 无符号长变量 例如无符号长整型 NumDec 200 十六进制 字符串变量 例如字符串 NumHex C8 二进制 字符串变量 例如字符串 NumBin 11001000 我希望能够以最有效的方式在
c
Binary
Decimal
Hex
在 C# 中使用十进制值作为属性参数?
我一直在尝试使用十进制值作为字段属性的参数 但出现编译器错误 我找到了这篇博文link http salamakha com blog 2007 09 21 decimal in c attributes 说它不可能在 NET 中使用 有人
c
parameters
attributes
Decimal
如何将十进制时间转换为 POSIX 时间
我使用一个函数从这里 http www r bloggers com approximate sunrise and sunset times 计算日出和日落并返回 sunrise sunset 6 49055593325792 18 28
r
time
Decimal
如何在 SQL 中使用整数将时间转换为小数
我在将时间转换为十进制时遇到一些问题 本质上 我使用 DATEDIFF 来识别两个日期和时间之间的小时和分钟 这产生的结果是 5 45 但我希望得到的结果是 5 75 select RTRIM DATEDIFF second startda
sql
sqlserver
time
Decimal
可以在不损失重要性的情况下转换为二进制并返回十进制的最高有效十进制数字精度是 6 还是 7.225?
我遇到过两种不同的浮点数精度公式 N 1 log10 2 6 decimal digits Single precision and N log10 2 7 225 decimal digits Single precision Where
如何将有理数格式化为小数?
给定一个任意大 或小 Rational具有有限十进制表示形式的数字 例如 r Rational 1 2 15 gt 1 32768 如何以字符串形式获取其完整的十进制值 上述数字的预期输出是 0 000030517578125 to f显然
ruby
Decimal
numberformatting
rationalnumber
C# 中四舍五入到小数点后两位
如何将两位小数相乘并将结果四舍五入到小数点后两位 例如 如果方程为 41 75 x 0 1 则结果将为 4 175 如果我在 C 中使用小数执行此操作 它将自动四舍五入到 4 18 我想四舍五入到 4 17 我尝试使用 Math Floor
c
Decimal
rounding
小数舍入问题 (python)
在我的程序中 小数精度非常重要 我的很多计算必须精确到小数点后很多位 比如50 因为我使用的是python 所以一直使用decimal模块 context prec 99 即 实例化小数对象时设置为具有 99 位小数精度 因为 python
python
Decimal
rounding
在 C++ 中将十六进制字符串转换为十进制数
我想在 C 中将十六进制字符串转换为十进制数字 整数 并尝试使用以下方法 std wstringstream SS SS lt lt std dec lt lt stol L 0xBAD lt lt endl 但它又回来了0反而2989 s
c
string
Hex
Decimal
EF Code First 中的小数精度和小数位数
我正在尝试这种代码优先的方法 但我现在发现 System Decimal 类型的属性被映射到 Decimal 18 0 类型的 sql 列 如何设置数据库列的精度 戴夫 范 登 艾德 Dave Van den Eynde 的答案现已过时 有
c
NET
EntityFramework
efcodefirst
Decimal
为什么 IsLiteral 对于十进制返回 false?
以下程序将打印字段以及它们是否恒定或不使用IsLiteral public static class Program public static void Main string args foreach var field in type
c
Reflection
Decimal
constants
最长的数字循环周期
我试图找到小于 1000 的数字 该数字除以 1 时会产生最长的重复数字串 我有一个十进制数字列表 必须找到具有最长重复序列的数字 这是我到目前为止所拥有的 numbers 2 999 decimal representations num
ruby
Substring
Decimal
longestsubstring
Java中将数字转换为小数点后两位
我想在运行时将数字转换为小数点后两位 始终显示小数点后两位 我尝试了一些代码 但它只是这样做 如下所示 20 03034 gt gt 20 03 20 3 gt gt 20 3 my code only rounds not convert
Java
Decimal
在Python中获取Decimal的Ceil()?
有没有办法在Python中获得高精度Decimal的ceil gt gt gt import decimal gt gt gt decimal Decimal 800000000000000000001 100000000000000000
python
Decimal
rounding
ceil
确定列上使用的最大小数位数
在 MS SQL 中 我需要一种方法来确定某个十进制列的行所使用的最大比例 例如 Col1 Decimal 19 8 的小数位数为 8 但我需要知道是否实际使用了所有 8 个 或者是否仅使用了 5 6 或 7 样本数据 123 123450
sql
sqlserver
TSQL
Decimal
precision
«
1 ...
4
5
6
7
8
9
10
...14
»