十进制如何工作?

2024-05-13

我查看了 C# 中的十进制,但我不能 100% 确定它做了什么。 有损吗?在C#写作中1.0000000000001f+1.0000000000001f结果是2使用时float (double得到你2.0000000000002这是正确的)是否有可能将两个小数相加而得不到正确的答案?

我可以使用多少位小数?我看到 MaxValue 是79228162514264337593543950335但如果我减去 1,我可以使用多少位小数?

有我应该知道的怪癖吗?在 C# 中它是 128 位,在其他语言中它是多少位,它的工作方式是否与 C# 十进制相同? (加、除、乘时)


你所展示的并不是decimal - it's float。他们是非常不同的类型。f是后缀float, aka System.Single http://msdn.microsoft.com/en-us/library/system.single.aspx. m是后缀decimal, aka System.Decimal http://msdn.microsoft.com/en-us/library/system.decimal.aspx。从你的问题中不清楚你是否认为这实际上是在使用decimal,或者您是否只是使用float来表达你的恐惧。

如果您使用 1.0000000000001m + 1.0000000000001m,您将获得完全正确的值。请注意,double顺便说一句,版本无法准确表达任何一个单独的值。

我有关于 .NET 中两种浮点的文章,您应该仔细阅读它们以及其他资源:

  • 二进制浮点数 http://csharpindepth.com/Articles/General/FloatingPoint.aspx(浮动/双)
  • 十进制浮点数 http://csharpindepth.com/Articles/General/Decimal.aspx(十进制)

当然,所有浮点类型都有其局限性,但特别是您应该not期望二进制浮点能够准确地表示十进制值,例如 0.1。但它仍然不能表示任何不能用 28/29 十进制数字精确表示的东西 - 所以如果你用 1 除以 3,你当然不会得到确切的答案。

You should also note that the range of decimal is considerably smaller than that of double. So while it can have 28-29 decimal digits of precision, you can't represent truly huge numbers (e.g. 10200) or miniscule numbers (e.g. 10-200).

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

十进制如何工作? 的相关文章

随机推荐

  • 如何自定义 PriorityQueue.stream().foreach 按优先级顺序迭代

    我有一个类 里面有 PriorityQueue 字段 public class MyClass
  • 如何检测无符号整数溢出?

    I was writing a program in C to find all solutions of ab c where a b and c together use all the digits 0 9 exactly once
  • 图像像素数据如何“扫描”图像像素?

    目标 查找仅包含黑色和透明像素的图像左侧的第一个黑色像素 我拥有的 我知道如何获取像素数据并拥有黑色和透明像素的数组 在这里找到它 https stackoverflow com a 1262893 358480 https stackov
  • 将小数修剪到 2 位 Bigquery

    我当前正在运行一个查询 该查询运行 sum 函数并除以该数字 目前我得到的值例如 0 0904246741698848 和 1 6419814808335567 我希望这些小数被修剪到小数点后 2 个空格 他们的模式是一个浮点数 这是我的代
  • Qt WinRT 应用程序无法访问文件权限被拒绝

    我需要使用 Qt 和 FFMPEG 开发 WinRT 应用程序 我根据指令构建了 WinRT 的 ffmpeghere https github com Microsoft FFmpegInterop我可以将库与我的项目链接起来 现在我需要
  • android Spinner 和数组适配器以编程方式

    我正在尝试使用 ArrayAdapter 以编程方式创建 Spinner 这是在一个闭源 jar 中完成的 作为 Android 库项目的一部分 我没有任何资源访问权限 我想知道如何自定义布局和显示微调器的文本视图 EDIT 目前我正在使用
  • 使用 matplotlib 为水平条形图创建替代 y 轴标签

    这是我刚刚提出的问题的 更清晰的 转发 我的去身份化让人们感到困惑 你好 我是使用 matplotlib pyplot 在 python 中绘图的新手 并花了很多时间在这个网站和其他网站上搜索 并试图弄清楚这一点 但我还没有成功完成我想做的
  • 我应该如何格式化 .dat 文件以便制作 3D 矢量图?

    我正在为大学做这个编程任务 我们必须写一个c 计算 3D 空间中某些线圈的磁场矢量的程序 我已经成功编写了这个程序 并且我认为它运行得很好 不过 我想添加一个特殊的东西 这是我的试卷 所以它必须特别好 我想绘制出向量 我习惯打电话gnupl
  • 如何在 iPad 上使用 HTML5/Javascript 合成音频

    有没有人有工作示例代码 可以在 iPad 上的 Mobile Safari 上使用 HTML5 Javascript 合成 并播放 音频 我在网上找到了一些基于 javascript 的声音合成示例 但它们似乎都只能在 Firefox 中使
  • Mongoose 对 Promise 拒绝处理

    我有点与 NodeJS 中的 Promise 模式作斗争 我正在数据库中查找用户 然后使用用户引用保存新实体 但是当用户不在数据库中时 我应该返回拒绝 但我不确定如何正确执行 有没有办法做得更好 顺便说一句 对不起 咖啡脚本 User fi
  • Python 无服务器函数 Vercel - Next.js

    我发现我可以使用 Python 在内部创建一个无服务器函数Next js https nextjs org docs getting started项目 一旦部署到Vercel https vercel com 它将被转换为无服务器函数 我
  • org.springframework.security.oauth2.common.exceptions.InvalidGrantException:凭据错误

    我正在开发Spring Boot 授权服务器 OAuth 资源服务器 在这个例子中 我可以通过邮递员轻松查询spring microservices oauth 服务器并获取受保护的数据 我创建了客户端来访问邮递员正在执行的数据 但我遇到了
  • Grails 默认包名称

    我是 Grails 的新手 而且非常喜欢它 我想将我的课程放在像这样的包中org company project module model 重复对我来说很痛苦create domain class
  • 如何用X11复制到剪贴板?

    使用 OS X 上的框架 我可以使用以下命令将 PNG 复制到粘贴板 在 C 中 显然我可以将 NSPasteboard 与 Cocoa 一起使用 include
  • 为什么不能将 MYSQL 函数传递到准备好的 PDO 语句中?

    在我看来 以下脚本应该有效 stmt db gt prepare UPDATE table SET status date modified stmt gt execute array 1 NOW 但经过时NOW 进入准备好的声明中 什么也
  • python 2.7.6 if/elif/else 语句中的 isupper 函数

    我需要 str isupper 函数的帮助 我试图在 if elif else 语句中使用它 程序是这样的 String raw input Please enter a string if String 1 isupper print T
  • 如何更改每次旋转的滑动刷新布局的颜色?

    有没有人注意到SwipeRefreshLayout在 Gmail 中 它会在一次加载迭代中为每次旋转更改颜色 有谁知道如何实现它 The 文档 https developer android com reference android su
  • 返回值的复制省略和 noexcept

    我有一个这样的函数模板 template
  • 递归BBCode解析

    我正在尝试解析脚本中的 BBCode 现在 它可以无缝工作 直到我尝试缩进不仅仅是粗体或下划线的 BBCode 例如剧透 网址 字体大小等 然后它就会搞砸 这是我的代码 function parse bbcode text global d
  • 十进制如何工作?

    我查看了 C 中的十进制 但我不能 100 确定它做了什么 有损吗 在C 写作中1 0000000000001f 1 0000000000001f结果是2使用时float double得到你2 0000000000002这是正确的 是否有可