js 浮点小数计算精度问题 parseFloat 精度问题

时间: 2019-02-12阅读: 1973标签: 运算

js中进行以元为单位进行金额计算时 使用parseFloat会产生精度问题

var price = 10.99;
var quantity = 7;
var needPay = parseFloat(price * quantity);


needPay的正确结果应该是76.93元  但是运行后发现needPay为76.93000000000001 。此情况可通过 toFixed(n)  方法修正 但是这个方法对 js版本要求较高 不能兼容ie5
另一个解决方案是: 将元为单位的金额乘以100换算为分进行计算

var price = 10.99
var quantity = 7
var needPay = Math.floor(parseFloat(price*100 * quantity))/100;


parseFloat(price*100 * quantity)的计算结果是7693.000000000001   使用Math.round()方法四舍五入,再除100  即为正确的结果
PS:顺便学到了一点:Math.ceil() Math.floor() Math.round() 的区别

Math.ceil() 是向上取整
Math.floor()是向下取整
Math.round()是四舍五入

        //保留两位小数   
        //功能:将浮点数四舍五入,取小数点后2位  
        function toDecimal(x) {  
            var f = parseFloat(x);  
            if (isNaN(f)) {  
                return;  
            }  
            f = Math.round(x*100)/100;  
            return f;  
        }  
  
  
        //制保留2位小数,如:2,会在2后面补上00.即2.00  
        function toDecimal2(x) {  
            var f = parseFloat(x);  
            if (isNaN(f)) {  
                return false;  
            }  
            var f = Math.round(x*100)/100;  
            var s = f.toString();  
            var rs = s.indexOf(‘.‘);  
            if (rs < 0) {  
                rs = s.length;  
                s += ‘.‘;  
            }  
            while (s.length <= rs + 2) {  
                s += ‘0‘;  
            }  
            return s;  
        }  
          
        function fomatFloat(src,pos){     
             return Math.round(src*Math.pow(10, pos))/Math.pow(10, pos);     
        }  
        //四舍五入  
        alert("保留2位小数:" + toDecimal(3.14159267));  
        alert("强制保留2位小数:" + toDecimal2(3.14159267));  
        alert("保留2位小数:" + toDecimal(3.14559267));  
        alert("强制保留2位小数:" + toDecimal2(3.15159267));  
        alert("保留2位小数:" + fomatFloat(3.14559267, 2));  
        alert("保留1位小数:" + fomatFloat(3.15159267, 1));  
          
        //五舍六入  
        alert("保留2位小数:" + 1000.003.toFixed(2));  
        alert("保留1位小数:" + 1000.08.toFixed(1));  
        alert("保留1位小数:" + 1000.04.toFixed(1));  
        alert("保留1位小数:" + 1000.05.toFixed(1));  
          
        //科学计数  
        alert(3.1415.toExponential(2));  
        alert(3.1455.toExponential(2));  
        alert(3.1445.toExponential(2));  
        alert(3.1465.toExponential(2));  
        alert(3.1665.toExponential(1));  
        //精确到n位,不含n位  
        alert("精确到小数点第2位" + 3.1415.toPrecision(2));  
        alert("精确到小数点第3位" + 3.1465.toPrecision(3));  
        alert("精确到小数点第2位" + 3.1415.toPrecision(2));  
        alert("精确到小数点第2位" + 3.1455.toPrecision(2));  
        alert("精确到小数点第5位" + 3.141592679287.toPrecision(5));



站长推荐

1.云服务推荐: 国内主流云服务商,各类云产品的最新活动,优惠券领取。地址:阿里云腾讯云华为云

2.广告联盟: 整理了目前主流的广告联盟平台,如果你有流量,可以作为参考选择适合你的平台点击进入

链接: http://www.fly63.com/article/detial/1971

关闭

JS小数运算失精度的问题

浮点数值的最高精度是17位小数,但在进行运算的时候其精确度却远远不如整数;整数在进行运算的时候都会转成10进制; 而java和JavaScript中计算小数运算时,都会先将十进制的小数换算到对应的二进制,一部分小数并不能完整的换算为二进制

斐波那契列数JS的三种实现

大家是怎么实现斐波那契列数的,再给两种解法,对比一下,还有一种更简单的用的是数组存储

Js比较和逻辑运算符

比较和逻辑运算符用于测试 true 或 false。比较运算符在逻辑语句中使用,以判定变量或值是否相等。我们给定 x = 5,下表中解释了比较运算符:

Js四舍五入及精度丢失问题

在JS中使用数值计算时,经常会遇到未知的结果。问题:用toFixed保留小数时,四舍五入规则不固定:常见的解决思路:将小数放大为整数,进行四舍五入后,再缩小为小数。

理解JS中的加号运算符

+的使用有两种情况 ,当+连接两个变量或值时即为二元运算符,比如a + b,当+在变量或值前面时,则为一元运算符。直接转换为Number类型,相当于Number()

JavaScript大数相加相乘实现

JavaScript 中的最大安全整数是 2 ^{53} – 1253–1,即 9007199254740991,当我们进行超出这个范围的数值计算的时候就无法得到精确的值,而是一个近似值

js精准计算

对于浮点数的四则运算,几乎所有的编程语言都会有类似精度误差的问题,只不过在 C++/C#/Java 这些语言中已经封装好了方法来避免精度的问题,而 JavaScript 是一门弱类型的语言,从设计思想上就没有对浮点数有个严格的数据类型,所以精度误差的问题就显得格外突出

PHP取整、四舍五入取整、向上取整、向下取整、小数截取

PHP取整数函数常用的四种方法:1.直接取整,舍弃小数,保留整数:intval(); 2.四舍五入取整:round(); 3.向上取整,有小数就加1:ceil(); 4.向下取整:floor()。

js中的位运算及用法

位运算是在数字底层(即表示数字的 32 个数位)进行运算的。由于位运算是低级的运算操作,所以速度往往也是最快的(相对其它运算如加减乘除来说),并且借助位运算有时我们还能实现更简单的程序逻辑,缺点是很不直观

javascript如何四舍五入?

javascript四舍五入的方法:方法一、使用toFixed()方法可把Number四舍五入为指定小数位数的数字。方法二、使用round()方法可把一个数字舍入为最接近的整数。

点击更多...

内容以共享、参考、研究为目的,不存在任何商业目的。其版权属原作者所有,如有侵权或违规,请与小编联系!情况属实本人将予以删除!