Js四舍五入及精度丢失问题

更新日期: 2020-01-16阅读: 1.8k标签: 运算

在JS中使用数值计算时,经常会遇到未知的结果。


问题:用toFixed保留小数时,四舍五入规则不固定


常见的解决思路:将小数放大为整数,进行四舍五入后,再缩小为小数。

// 四舍五入(若要直接舍去,flag可设为0)
function myFixed(num, s) {
  var digit = Math.pow(10, s)
  var flag = (num >= 0 ? 0.5 : -0.5)
  var res = num * digit + flag
  res = parseInt(res, 10) / digit
  return res + ''
}



问题:小数加减乘除时,有时会出现精度丢失问题:

常见的解决思路:将小数放大为整数,进行运算后,再缩小为小数。

/**
 * floatObj 包含加减乘除四个方法,能确保浮点数运算不丢失精度
 *
 * 我们知道计算机编程语言里浮点数计算会存在精度丢失问题(或称舍入误差),其根本原因是二进制和实现位数限制有些数无法有限表示
 * 以下是十进制小数对应的二进制表示
 *      0.1 >> 0.0001 1001 1001 1001…(1001无限循环)
 *      0.2 >> 0.0011 0011 0011 0011…(0011无限循环)
 * 计算机里每种数据类型的存储是一个有限宽度,比如 JavaScript 使用 64 位存储数字类型,因此超出的会舍去。舍去的部分就是精度丢失的部分。
 *
 * ** method **
 *  add / subtract / multiply /divide
 *
 * ** explame **
 *  0.1 + 0.2 == 0.30000000000000004 (多了 0.00000000000004)
 *  0.2 + 0.4 == 0.6000000000000001  (多了 0.0000000000001)
 *  19.9 * 100 == 1989.9999999999998 (少了 0.0000000000002)
 *
 * floatObj.add(0.1, 0.2) >> 0.3
 * floatObj.multiply(19.9, 100) >> 1990
 *
 */
var floatObj = function() {
    
  /*
   * 判断obj是否为一个整数
   */
  function isInteger(obj) {
      return Math.floor(obj) === obj
  }
  
  /*
   * 将一个浮点数转成整数,返回整数和倍数。如 3.14 >> 314,倍数是 100
   * @param floatNum {number} 小数
   * @return {object}
   *   {times:100, num: 314}
   */
  function toInteger(floatNum) {
      var ret = {times: 1, num: 0}
      var isNegative = floatNum < 0
      if (isInteger(floatNum)) {
          ret.num = floatNum
          return ret
      }
      var strfi  = floatNum + ''
      var dotPos = strfi.indexOf('.')
      var len    = strfi.substr(dotPos+1).length
      var times  = Math.pow(10, len)
      var intNum = parseInt(Math.abs(floatNum) * times + 0.5, 10)
      ret.times  = times
      if (isNegative) {
          intNum = -intNum
      }
      ret.num = intNum
      return ret
  }
  
  /*
   * 核心方法,实现加减乘除运算,确保不丢失精度
   * 思路:把小数放大为整数(乘),进行算术运算,再缩小为小数(除)
   *
   * @param a {number} 运算数1
   * @param b {number} 运算数2
   * @param digits {number} 精度,保留的小数点数,比如 2, 即保留为两位小数
   * @param op {string} 运算类型,有加减乘除(add/subtract/multiply/divide)
   *
   */
  function operation(a, b, digits, op) {
      var o1 = toInteger(a)
      var o2 = toInteger(b)
      var n1 = o1.num
      var n2 = o2.num
      var t1 = o1.times
      var t2 = o2.times
      var max = t1 > t2 ? t1 : t2
      var result = null
      switch (op) {
          case 'add':
              if (t1 === t2) { // 两个小数位数相同
                  result = n1 + n2
              } else if (t1 > t2) { // o1 小数位 大于 o2
                  result = n1 + n2 * (t1 / t2)
              } else { // o1 小数位 小于 o2
                  result = n1 * (t2 / t1) + n2
              }
              return result / max
          case 'subtract':
              if (t1 === t2) {
                  result = n1 - n2
              } else if (t1 > t2) {
                  result = n1 - n2 * (t1 / t2)
              } else {
                  result = n1 * (t2 / t1) - n2
              }
              return result / max
          case 'multiply':
              result = (n1 * n2) / (t1 * t2)
              return result
          case 'divide':
              result = (n1 / n2) * (t2 / t1)
              return result
      }
  }
  
  // 加减乘除的四个接口
  function add(a, b, digits) {
      return operation(a, b, digits, 'add')
  }
  function subtract(a, b, digits) {
      return operation(a, b, digits, 'subtract')
  }
  function multiply(a, b, digits) {
      return operation(a, b, digits, 'multiply')
  }
  function divide(a, b, digits) {
      return operation(a, b, digits, 'divide')
  }
  
  // exports
  return {
      add: add,
      subtract: subtract,
      multiply: multiply,
      divide: divide
  }
}();

所以最上面四舍五入的方法也存在风险,可调用floatObj完善:

// 四舍五入(若要直接舍去,flag可设为0)
function myFixed(num, s) {
  var digit = Math.pow(10, s)
  var flag = (num >= 0 ? 0.5 : -0.5)
  var res = floatObj.add(floatObj.multiply(num, digit), flag)
  res = floatObj.divide(parseInt(res, 10), digit)
  return res + ''
}

链接: https://www.fly63.com/article/detial/7304

js除了Math.floor方法,还可以通过位运算|,>>实现向下取整

我们都知道通过Math.floor()方法可实现数值的向下取整,得到小于或等于该数字的最大整数。除了Math.floor方法,还可以使用位运算|,>>来实现向下取整哦

es6 扩展运算符 三个点(...)

扩展运算符( spread )是三个点(...)。它好比 rest 参数的逆运算,将一个数组转为用逗号分隔的参数序列。

巧用JS位运算

位运算的方法在其它语言也是一样的,不局限于JS,所以本文提到的位运算也适用于其它语言。位运算是低级的运算操作,所以速度往往也是最快的

js中使用位运算,让执行效率更高

平常的数值运算,其本质都是先转换成二进制再进行运算的,而位运算是直接进行二进制运算,所以原则上位运算的执行效率是比较高的,由于位运算的博大精深,下面通过一些在js中使用位运算的实例

js各种取整方式及方法_四舍五入、向上取整、向下取整

js实现:四舍五入、向上取整、向下取整等方法。parseInt、Math.ceil、Math.round、Math.floor、toFixed等的使用

JavaScript循环计数器

JS经常会遇到延迟执行的动作,并且失败后自动尝试,尝试N次之后就不再尝试的需求,今天刚好又遇到,于是写个闭包,以后不断完善继续复用。检查并计数第一个参数用来标记是尝试哪个动作的,第二个参数是最大尝试次数

js 位运算符_js按位运算符及其妙用

大多数语言都提供了按位运算符,恰当的使用按位运算符有时候会取得的很好的效果。在我看来按位运算符应该有7个:& 按位与、| 按位或、^ 按位异或、~ 按位非

PHP取整、四舍五入取整、向上取整、向下取整、小数截取

PHP取整数函数常用的四种方法:1.直接取整,舍弃小数,保留整数:intval(); 2.四舍五入取整:round(); 3.向上取整,有小数就加1:ceil(); 4.向下取整:floor()。

JavaScript 中的相等操作符 ( 详解 [] == []、[] == ![]、{} == !{} )

ECMAScript 中的相等操作符由两个等于号 ( == ) 表示,如果两个操作数相等,则返回 true。相等操作符会先转换操作数(通常称为强制转型),然后比较它们的相等性。

关于js开发中保留小数位计算函数(以向上取整或向下取整的方式保留小数)

前端工作中经常遇到数字计算保留小数问题,由于不是四舍五入的方式不能使用toFixed函数,本文采用正则表达式匹配字符串的方式,解决对数字的向上或向下保留小数问题:

点击更多...

内容以共享、参考、研究为目的,不存在任何商业目的。其版权属原作者所有,如有侵权或违规,请与小编联系!情况属实本人将予以删除!