Convert vs Cast

2023-11-11

Convert采用的是银行的舍入原则,而不是Cast的截取原则。

Convert的四舍六入五留双规则:

为了避免四舍五入规则造成的结果偏高,误差偏大的现象出现,一般采用四舍六入五留双规则(Banker's Rounding)。 四舍六入五留双应该改为: 四舍六入逢五无后则留双,这样描述更容易理解和记住.


四舍六入五留双规则的具体方法是:

(一)当尾数小于或等于4时,直接将尾数舍去。

例如将下列数字全部修约为四位有效数字,结果为:

 

0.53664——0.5366

10.2731——10.27

18.5049——18.50

0.58344——0.5834

16.4005——16.40

27.1829——27.18

 

(二)当尾数大于或等于6时,将尾数舍去并向前一位进位。

例如将下列数字全部修约为四位有效数字,结果为:

 

0.53666——0.5367

8.3176——8.318

16.7777——16.78

0.58387——0.5839

10.29501——10.30

21.0191——21.02

 

(三)当尾数为5,而尾数后面的数字均为0时,应看尾数“5”的前一位:若前一位数字此时为奇数,就应向前进一位;若前一位数字此时为偶数,则应将尾数舍去。数字“0”在此时应被视为偶数。


例如将下列数字全部修约为四位有效数字,结果为:

 

0.153050——0.1530

12.6450——12.64

18.2750——18.28

0.153750——0.1538

12.7350——12.74

21.845000——21.84

 

(四)当尾数为5,而尾数“5”的后面还有任何不是0的数字时,无论前一位在此时为奇数还是偶数,也无论“5”后面不为0的数字在哪一位上,都应向前进一位。

例如将下列数字全部修约为四位有效数字,结果为:

 

0.326552——0.3266

12.73507——12.74

21.84502——21.85

12.64501——12.65

18.27509——18.28

38.305000001——38.31

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

Convert vs Cast 的相关文章

随机推荐

  • 【转】KVM I/O虚拟化分析

    最近在看多队列的东西 看到下面两篇文章 记录下 以后自己也深入写个这方向的知识 0 背景 当今的I O虚拟化主要有几种模式 1 通过设备的模拟 设备的模拟主要分为两种 一种是直接在VMM中完成模拟 如xen vmware 一种是在另一个应用
  • C++知识系列:C++/CLI简介

    总结 无 参考 C CLI简介
  • 诺禾

    前端必备 css超出显示省略号 强制不换行 自动换行 强制断行 H5代码 Document comrem dfgdsgfd sdffafsdafa dsfaf sdfsaf thgwer awdafqew ljj ljljoi hsgfa
  • 点云数据进行边界提取 (附PCL c++ 代码)

    代码的主要作用是对点云数据进行边界提取 并通过可视化展示边界提取结果 代码的主要流程如下 加载点云数据 计算点云中每个点的法向量 使用边界特征估计算法计算点云中每个点的边界特征 遍历点云中的每个点 提取边界点 可视化展示原始点云和边界点云
  • 【大数据】Flink 详解(二):核心篇 Ⅰ

    本系列包含 大数据 Flink 详解 一 基础篇 大数据 Flink 详解 二 核心篇 大数据 Flink 详解 三 核心篇 大数据 Flink 详解 四 核心篇 大数据 Flink 详解 五 核心篇 大数据 Flink 详解 六 源码篇
  • js逆向-导出md5加密方法实战(简单)

    简单的随机找一个网站密码加密方法 1 先在登陆页面随便输入账号密码 发送个包 看提交的数据 有password 发现是加密 而且密文是32位 初步猜测是md5 如图 2 复制标记 password 搜索 如图 排除掉hm js 这个是百度统
  • 一步步构建大型网站架构

    之前我简单向大家介绍了各个知名大型网站的架构 亿万用户网站MySpace的成功秘密 Flickr架构 YouTube网站架构 PlentyOfFish 网站架构学习 WikiPedia技术架构学习笔记 这几个都很典型 我们可以从中获取很多有
  • [译]一机多屏的虚拟机方案multivisor

    如果你认为本系列文章对你有所帮助 请大家有钱的捧个钱场 点击此处赞助 赞助额0 1元起步 多少随意 声明 本文只用于个人学习交流 若不慎造成侵权 请及时联系我 立即予以改正 锋影 email 174176320 qq com 创建生命和任务
  • Shell极简入门

    文章目录 简单Shell案例 注释 Shell的变量 shell变量的定义 设置环境变量 位置参数变量 预定义变量 运算符 条件判断 判断语句 流程控制 流程控制 read读取控制台输入 函数 简单Shell案例 使用vim创建一个文件He
  • qt中的fromStdString和fromLatin1

    1 注意将char类型的数在qt中进行转换 void data char data QString str QString fromStdString data 注意这个data为char datal类型的数 2 注意将字节类型的数进行转化
  • es8.8 集群安装笔记

    es8 8 集群安装笔记 配置集群 第一步 修改配置文件 本次安装使用centos8 3节点安装 192 168 182 142 192 168 182 143 192 168 182 144 官网 可以查看详细的安装 安装步骤比较简单 h
  • Java(60):Java 正则表达式(Pattern和Matcher)

    Java 60 Java 正则表达式 一 Pattern类和Matcher类 Java的正则表达式是由java util regex的Pattern和Matcher类实现的 Pattern对象表示经编译的正则表达式 静态的compile 方
  • Zookeeper原理及应用汇总

    1 Zookeeper简介 分布式服务框架 ZooKeeper为分布式应用程序提供高效且可靠的分布式协调服务 提供的服务 配置管理 统一命名服务 分布式同步 组服务等 是Google Chubby的开源实现 Hadoop和Hbase的重要组
  • 轮盘赌算法

    轮盘赌长这个样子 每个格子的概率是1 37 我们需要用到的模型如右边这个图 即每个有颜色格子的概率是不同的 整体概率为1 先撇开遗传算法 觉得上来讲染色体群体的选择 有点不地道 通俗的讲一下我对轮盘赌算法的理解 右上边饼图不同颜色的区域 面
  • 【持续更新】VMware与ubuntu启动常见问题集锦

    目录 1 Ubuntu 无法正常启动 启动过程卡住 1 问题表现及分析 1 问题表现 2 问题分析 2 解决方法 2 VMware 父虚拟磁盘已被修改 父虚拟磁盘的内容ID与子虚拟磁盘中相应的父内容ID不匹配 1 问题表现及分析 1 问题表
  • SpringBoot系列---【三种启动传参方式的区别】

    三种启动传参方式的区别 1 三种方式分别是什么 idea中经常看到下面三种启动传参方式 优先级 Program arguments gt VM options gt Environment variable gt 系统默认值 2 参数说明
  • MYSQL日志查询

    如何查看mysql数据库操作记录日志 首先使用 V参数查看MYSQL版本 首先我们想到的肯定就是查看版本号的参数命令 参数为 V 大写字母 或者 version 使用方法 D xxxxx mysql bin gt mysql V 版本不一样
  • 提高服务器效率的五种方法!

    服务器是很多企业处理业务离不开的设备 在日常工作中发挥着重要的作用 不过 企业有时会发现服务器效率低下 无法很好地配合工作的完成 进而导致企业的工作效率下降 有什么好方法能够解决这个问题呢 下面将介绍五种方法 以供企业参考 1 从硬件下手
  • Nodejs学习之事件循环

    events 模块只提供了一个对象 events EventEmitter EventEmitter 的核心就是事件触发与事件监听器功能的封装 EventEmitter 对象如果在实例化时发生错误 会触发 error 事件 当添加新的监听器
  • Convert vs Cast

    Convert采用的是银行的舍入原则 而不是Cast的截取原则 Convert的四舍六入五留双规则 为了避免四舍五入规则造成的结果偏高 误差偏大的现象出现 一般采用四舍六入五留双规则 Banker s Rounding 四舍六入五留双应该改