Python
Java
PHP
IOS
Android
Nodejs
JavaScript
Html5
Windows
Ubuntu
Linux
为什么 pytorch matmul 在 cpu 和 gpu 上执行时得到不同的结果?
我试图找出 numpy pytorch gpu cpu float16 float32 数字之间的舍入差异 而我发现的内容让我感到困惑 基本版本是 a torch rand 3 4 dtype torch float32 b torch r
NumPy
Pytorch
rounding
将浮点数向下舍入到最接近的整数?
我想获取一个浮点数并将其向下舍入到最接近的整数 然而 如果它不是一个整体 我always想要向下舍入变量 无论它与下一个整数的接近程度如何 有没有办法做到这一点 int x 转换为整数将截断 朝向 0 0 例如math trunc 对于非负
python
floatingpoint
Integer
rounding
fstcw 汇编操作数类型不匹配
我正在尝试使用 C 中的内联汇编中指定的舍入模式对输入双精度舍入进行舍入 为此 我需要使用以下命令获取 FPU 控制字fstcw然后更改字中的位 不幸的是我在第一行遇到了错误 double roundD double n RoundingM
c
Assembly
rounding
att
x87
write.csv 精度 R
我正在处理非常精确的数字 最大位数 我注意到write csv x 在 R 中有时会对数字进行四舍五入 有人注意到类似的事情吗 默认保存的位数是多少 正如文档中所写 在几乎所有情况下 数值量的转换都是受控制的 通过选项 scipen see
r
csv
rounding
如何将日期时间四舍五入到最接近的 5 分钟?
我需要一个Python3函数来四舍五入datetime datetime反对精确到 5 分钟 是的 这已经在之前的 SO 帖子中讨论过here https stackoverflow com questions 32723150 round
python
python3x
datetime
rounding
修复小数的浮点精度
a 1 for x in range 5 a 0 1 print a 这是结果 1 1 1 2000000000000002 1 3000000000000003 1 4000000000000004 1 5000000000000004
python
rounding
是否可以在不诉诸任意精度数据类型的情况下消除浮点错误?
我想知道在特定条件下是否可以在不诉诸任意精度数据类型的情况下消除浮点错误 问题是常见的 语言是 Ruby 但它适用于任何语言 f 1829 82 gt 1829 82 f 12 0 gt 152 485 f 12 0 round 2 gt
floatingpoint
rounding
precision
在Python中,整数除法中向零舍入的好方法是什么?
1 2 gives 0 正如它应该 然而 1 2 gives 1 但我希望它向 0 舍入 即我希望 1 2 为 0 无论它是正数还是负数 最好的方法是什么 进行浮点除法 然后转换为 int 不需要额外的模块 Python 3 gt gt g
python
rounding
Division
negativenumber
integerdivision
带分钟的 DATEDIFF 不返回预期值
假设我有以下包含数据的 SQL Server 2008 表 CREATE TABLE tbl dtIn DATETIME2 dtOut DATETIME2 INSERT tbl VALUES 9 10 2012 5 14 10 AM 9 1
c
sqlserver
TSQL
rounding
datediff
使用基本 R 功能舍入 POSIX 日期 (POSIXct)
我目前正在为我正在构建的包考虑很多日期和时间 绊倒这个post https stackoverflow com questions 8333838 how do you generate a sequence of the last day
r
date
datetime
rounding
posixct
如何在Python 3中用前导零填充字符串[重复]
这个问题在这里已经有答案了 我正在努力使length 001在Python 3中 但每当我尝试打印它时 它都会截断不带前导零的值 length 1 我该如何阻止这种情况发生而不需要施放length在打印之前将其转换为字符串 利用zfill
python
python3x
Math
rounding
.NET 4 中的 Math.Round() 行为[重复]
这个问题在这里已经有答案了 可能的重复 在 C 中 Math Round 2 5 结果是 2 而不是 3 你在开玩笑吧 https stackoverflow com questions 977796 in c math round2 5
c
Math
net40
rounding
向零舍入到最接近的 0x50 的简短按位方法?
我正在尝试修补一个旧的 8 位汇编程序例程 它恰好是 M6800 但这并不是真正特定于机器的 以获取 16 位值并向下舍入到最接近的 0x50 dec 80 倍数 当前代码截断为最接近的32只需做一件事AND 0xE0到低字节 这当然会将低
Assembly
BitManipulation
rounding
6800
如何在颤振中使用精度对整数进行舍入
我试图使折线图的 Y 轴间隔在颤动中动态化 这里MaxVal将获取Y轴的最大值 int interval maxVal 6 toInt int length interval toString length toInt 所以在这里我将 ma
flutter
dart
rounding
如何在 ruby 中保留我的浮点数
所以我正在尝试一些代码将数字转换为字符串 但是 我注意到在某些情况下它不会保留最后两位小数 例如 我输入 1 01 和 1 04 进行加法 然后得到 2 04 如果我只输入 1 05 它会保留该数字并准确返回 我明白发生了什么事情正在四舍五
ruby
rounding
Currency
linguistics
Postgres regr_slope 返回 NULL
有人可以帮我了解一下情况吗regr slope数据集中有行时返回 NULL 例如 log gt select from sb1 order by id ts id elapsed ts 317e 86 1552861322 627 317e
postgresql
rounding
linearregression
aggregatefunctions
sqlnull
在 R 中对非常小的值使用舍入函数返回零
有时我必须处理非常低的 p 值并以表格格式呈现它们 R 返回的值可以具有很长的有效数字 即小数点后的数字 现在 由于 p 值无论如何都很低 我倾向于在将它们写入 xls 或 tsv 文件之前缩短它们 只是为了使表格看起来漂亮 我在用R ve
r
floatingpoint
rounding
floor
将价格四舍五入至最接近的 $xx.99
我想将价格四舍五入 向上或向下 到最接近的 xx 99 美元 例如 17 99 gt Stay as is 22 03 gt 21 99 33 85 gt 33 99 45 gt 44 99 加 0 01 四舍五入 减 0 01 input
php
rounding
把按钮做成圆形
我正在尝试在 150 210 的 x y 坐标处制作 JButton 圆 我希望按钮是大小为 40 40 的椭圆形 按钮的背景颜色为红色 它不需要文本 所以我应该得到一个我想要的任何大小的按钮 对吗 我正在使用面板 并将 setLayout
Java
Swing
JButton
rounding
如何汇总正在进行的编程
我正在为 MRP 程序编写一份报告 其中包含一个我计算的订购数量的字段 如果它是小数点 我需要将其四舍五入 例如 2 33需要向上舍入为3等等 我努力了 oder round order 0 但这只给我 2 00 我需要将该数字四舍五入到下
rounding
progress4gl
«
1
2
3
4
5
6
...12
»