详谈javascript精度问题与调整

一个经典的问题：

0.1+0.2==0.3

答案是：false

因为：0.1+0.2=0.30000000000000004

第一次看到这个结果就是无比惊讶，下巴碰到地上，得深入了解下问题出在哪里，该怎么去调整。

产生问题的原因

在JS中数值类型就只有number类型，没有int，float，double之分，number类型实际上存储的就是IEEE754标准的浮点数，计算规则也是。

在表达式计算前，先要按照标准将两个数转成浮点数。

IEEE 754规定：

1.32位的浮点数（单精度），最高的1位是符号位S，接着的8位是指数E，剩下的23位为有效数字M。

浮点数的表现形式：

x=(-1)^S*m*2^(e+127)

m=1.M

E=e+127

2.64位的浮点数（双精度），最高的1位是符号位S，接着的11位是指数E，剩下的52位为有效数字M。

浮点数的表现形式：

x=(-1)^S*m*2^(e+1023)

m=1.M

E=e+1023

我们就按照双精度浮点数的标准转一下看看。

首先按照规则将0.1转成二进制的浮点数。

0.1*2=0.2 //0
0.2*2=0.4 //00
0.4*2=0.8 //000
0.8*2=1.6 //0001
0.6*2=1.2 //00011
0.2*2=0.4 //000110
0.4*2=0.8 //0001100
0.8*2=1.6 //00011001
0.6*2=1.2 //000110011
0.2*2=0.4 //0001100110
0.4*2=0.8 //00011001100
0.8*2=1.6 //000110011001
0.6*2=1.2 //0001100110011
0.2*2=0.4 //00011001100110
0.4*2=0.8 //000110011001100
0.8*2=1.6 //0001100110011001
0.6*2=1.2 //00011001100110011
//省略

在转换中，会发现小数位的二进制值在不停的重复，转换没完没了了，因为乘不尽啊，不是10的倍数。

转换也不可能一直重复下去，按照标准规格化的要求凑满。

转换结果：

0.00011001100110011001100110011001100110011001100110011001

精度问题产生的第一个原因就在这里诞生了，按照标准算出来的二进制浮点数并不能都精确的表示一个小数，只是无限近似，0.5可以，因为5是10的倍数，转出来的小数位二进制不会重复。

我们看看再转回小数会怎么样，按照公式写成：

0*2^-1 + 0*2^-2 + 0*2^-3 + 1*2^-4 + 1*2^-5 + 0*2^-6 + 0*2^-7 + 1*2^-8 + 1*2^-9 + 0*2^-10 + 0*2^-11 + 1*2^-12 + 1*2^-13 + 0*2^-14 + 0*2^-15 + 1*2^-16 + 1*2^-17 + 0*2^-18 + 0*2^-19 + 1*2^-20 + 1*2^-21 + 0*2^-22 + 0*2^-23 + 1*2^-24 + 1*2^-25 + 0*2^-26 + 0*2^-27 + 1*2^-28 + 1*2^-29 + 0*2^-30 + 0*2^-31 + 1*2^-32 + 1*2^-33 + 0*2^-34 + 0*2^-35 + 1*2^-36 + 1*2^-37 + 0*2^-38 + 0*2^-39 + 1*2^-40 + 1*2^-41 + 0*2^-42 + 0*2^-43 + 1*2^-44 + 1*2^-45 + 0*2^-46 + 0*2^-47 + 1*2^-48 + 1*2^-49 + 0*2^-50 + 0*2^-51 + 1*2^-52 + 1*2^-53 + 0*2^-54 + 0*2^-55 + 1*2^-56

计算结果：

0.09999999999999999167332731531133

精度就在这里丢了一次。就是转换成小数位的二进制的时候。

按照表现形式的要求，要写成x=(-1)^s*m*2^(e+1023)，m=1.M的格式，按照要求尾数m的左边最高位总是1，所以要上面小数二进制结果的小数点进行移动

移动前：

0.00011001100110011001100110011001100110011001100110011001

移动后：

1.1001100110011001100110011001100110011001100110011001*2^-4

小数点右边选取要求的52位，上面的结果因为是提前算好，所以就省略了截取工作。

因为小数点最左侧的最高位总是1,所以它是不用存储的，那么虽然存储的是52位，但实际上可以表示53位的浮点数。

S=0，E=-4+1023=1019，m=1.M=1.1001100110011001100110011001100110011001100110011001，M=1001100110011001100110011001100110011001100110011001

浮点数表示：

x=-1^0*1.1001100110011001100110011001100110011001100110011001*2^1019

浮点数存储值（最高的1位是符号位S，接着的11位是指数E，剩下的52位为有效数字M）：

0 ‭001111111011‬ 1001100110011001100110011001100110011001100110011001

同理0.2的IEEE754的转换后的结果：

浮点数表示：

-1^0*1.1001100110011001100110011001100110011001100110011001*2^1020

浮点数存储值（最高的1位是符号位S，接着的11位是指数E，剩下的52位为有效数字M）：

0 ‭001111111100‬ 1001100110011001100110011001100110011001100110011001

接下来，按照IEEE754的加法规则，运算过程为：

1.0操作数的检查。

2.比较阶码大小并对阶。

3.尾数进行加法运算。

4.结果规格化。

5.舍入处理。

6.溢出处理。

按照计算过程，结果规格化、舍入处理、溢出处理都会遭成精度问题。

总结来看，造成精度问题的环节：

1.小数向二进制转换。

2.运算过程中的规格化，舍入、溢出处理。

精度调整

两种方法可以进行调整。

1.使用toFixed函数对小数位进行四舍五入。

但是其返回值是字符串，其参数是0 ~ 20之间的值，需要注意。

(0.1+0.2).toFixed(1) // '0.3'

2.无小数运算，运算结果附上小数点

使用该方法，要注意因为要变成整数再计算，对于一个小数点后位数很多的数来运算的时候，要注意溢出。

//加
function add(arg1,arg2){ 
 var digits1,digits2,maxDigits; 
 try{digits1=arg1.toString().split(".")[1].length}catch(e){digits1=0} 
 try{digits2=arg2.toString().split(".")[1].length}catch(e){digits2=0} 
 maxDigits=Math.pow(10,Math.max(digits1,digits2)) 
 return (arg1*maxDigits+arg2*maxDigits)/maxDigits 
} 
 
//减
function sub(arg1,arg2){ 
 var digits1,digits2,maxDigits; 
 try{digits1=arg1.toString().split(".")[1].length}catch(e){digits1=0} 
 try{digits2=arg2.toString().split(".")[1].length}catch(e){digits2=0} 
 maxDigits=Math.pow(10,Math.max(digits1,digits2)); 
 return (arg1*maxDigits-arg2*maxDigits)/maxDigits; 
} 

//乘
function mul(arg1,arg2) { 
 var digits=0,s1=arg1.toString(),s2=arg2.toString(); 
 try{digits+=s1.split(".")[1].length}catch(e){} 
 try{digits+=s2.split(".")[1].length}catch(e){}
 return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,digits); 
}

//除
function div(arg1,arg2){ 
 var int1=0,int2=0,digits1,digits2; 
 try{digits1=arg1.toString().split(".")[1].length}catch(e){digits1=0} 
 try{digits2=arg2.toString().split(".")[1].length}catch(e){digits2=0} 
 
 int1=Number(arg1.toString().replace(".","")) 
 int2=Number(arg2.toString().replace(".","")) 
 return (int1/int2)*Math.pow(10,digits2-digits1); 

}

以上这篇详谈javascript精度问题与调整就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持。

# javascript  # 精度问题  # js计算精度问题小结  # JS长整型精度问题实例分析  # 解决JavaScript数字精度丢失问题的方法  # 浅谈JavaScript中小数和大整数的精度丢失  # 浮点数  # 表现形式  # 要注意  # 给大家  # 转成  # 的是  # 第一个  # 两种  # 就在这里  # 它是  # 希望能  # 并对  # 这篇  # 并不能  # 该怎么  # 转换成  # 也不可能  # 没完没了  # 之分  # 需要注意 

相关文章： 学校建站服务器如何选型才能满足性能需求？  广州建站公司哪家好？十大优质服务商推荐  孙琪峥织梦建站教程如何优化数据库安全？  如何在云指建站中生成FTP站点？  天河区网站制作公司,广州天河区如何办理身份证？需要什么资料有预约的网站吗？  北京营销型网站制作公司,可以用python做一个营销推广网站吗？  如何在服务器上三步完成建站并提升流量？  电商网站制作多少钱一个,电子商务公司的网站制作费用计入什么科目？  如何在VPS电脑上快速搭建网站？  成都品牌网站制作公司,成都营业执照年报网上怎么办理？  如何通过老薛主机一键快速建站？  成都网站制作报价公司,成都工业用气开户费用？  免费制作海报的网站,哪位做平面的朋友告诉我用什么软件做海报比较好?ps还是cd还是ai这几个软件我都会些我是做网页的？  深圳网站制作设计招聘,关于服装设计的流行趋势，哪里的资料比较全面？  武汉外贸网站制作公司,现在武汉外贸前景怎么样啊？  建站之星安装后如何自定义网站颜色与字体？  建站与域名管理如何高效结合？  网页设计与网站制作内容,怎样注册网站？  沈阳个人网站制作公司,哪个网站能考到沈阳事业编招聘的信息？  ui设计制作网站有哪些,手机UI设计网址吗？  动图在线制作网站有哪些,滑动动图图集怎么做？  代刷网站制作软件,别人代刷火车票靠谱吗？  5种Android数据存储方式汇总  定制建站价位费用解析与套餐推荐全攻略  制作ppt免费网站有哪些,有哪些比较好的ppt模板下载网站？  建站之星后台密码遗忘？如何快速找回？  整蛊网站制作软件,手机不停的收到各种网站的验证码短信,是手机病毒还是人为恶搞?有这种手机病毒吗？  小程序网站制作需要准备什么资料,如何制作小程序？  网站制作公司哪里好做,成都网站制作公司哪家做得比较好，更正规？  如何访问已购建站主机并解决登录问题？  如何通过商城自助建站源码实现零基础高效建站？  实惠建站价格推荐：2025年高性价比自助建站套餐解析  Android使用GridView实现日历的简单功能  网站制作外包价格怎么算,招聘网站上写的“外包”是什么意思？  建站之星导航配置指南：自助建站与SEO优化全解析  武汉网站如何制作,黄黄高铁武穴北站途经哪些村庄？  如何在阿里云虚拟机上搭建网站？步骤解析与避坑指南  猪八戒网站制作视频,开发一个猪八戒网站，大约需要多少？或者自己请程序员，需要什么程序员，多少程序员能完成？  郑州企业网站制作公司,郑州招聘网站有哪些？  常州自助建站工具推荐：低成本搭建与模板选择技巧  建站之星手机一键生成：多端自适应+小程序开发快速建站指南  建站之星代理如何优化在线客服效率？  网站制作软件免费下载安装,有哪些免费下载的软件网站？  北京网站制作公司哪家好一点,北京租房网站有哪些？  建站主机是什么？如何选择适合的建站主机？  实例解析angularjs的filter过滤器  如何选择PHP开源工具快速搭建网站？  如何制作网站标识牌,动态网站如何制作（教程）？  如何快速搭建高效服务器建站系统？  弹幕视频网站制作教程下载,弹幕视频网站是什么意思？