JavaScript浮点数运算精度问题分析与校正方法

JavaScript浮点数运算精度问题分析与校正方法

有开发者提出一个关于JavaScript的问题。

 
var i = 0.07;
var r = i*100;
alert(r);

为什么最终弹出的结果是7.0000000000000001？

查阅相关资料可知，JavaScript在存储变量时并不区分number和float类型，而是统一按照float类型进行存储。具体来说，JavaScript采用IEEE 754-2008标准定义的64位浮点格式来存储number类型的数据。关于IEEE 754的更多定义，可参考：http://en.wikipedia.org/wiki/IEEE_754-2008

在decimal64格式中，整数部分长度为10位，小数部分长度为16位。因此，默认计算结果会显示为“7.0000000000000001”。如果最后一位小数为0，系统则会取1作为有效数字的标志。

同理，我们可以推断出1/3的计算结果应该是0.3333333333333333。

那么，应该如何校正这个值呢？

可以使用以下方法进行处理：

var r4=parseInt(i*100);

var r2=Math.round((i*100)*1000)/1000;

上述两种方法均能得到整数7。

以下是完整的测试代码：

 
<html>
<head>
<title>测试脚本</title>
<script language="JAVASCRIPT">
function init()
{ 
var i = 0.07;
var r = i*100;
var r2=Math.round((i*100)*1000)/1000;
var r3 = eval(i*100);
var r4=parseInt(i*100);
var r5=parseFloat(i*100*1.0000);
var r6=(1/3);
alert(r);
alert("Math.round="+r2);
alert("eval="+r3);
alert("parseInt="+r4);
alert("parseFloat="+r5);
alert(""+r6);
} 
</script>
</head>
<body onload="init();">
</body>
</html>