博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
java用double和float进行小数计算精度不准确
阅读量:4981 次
发布时间:2019-06-12

本文共 6362 字,大约阅读时间需要 21 分钟。

java用double和float进行小数计算精度不准确

大多数情况下,使用double和float计算的结果是准确的,但是在一些精度要求很高的系统中或者已知的小数计算得到的结果会不准确,这种问题是非常严重的。

《Effective 》中提到一个原则,那就是float和double只能用来作科学计算或者是工程计算,但在商业计算中我们要用java.math.BigDecimal,通过使用BigDecimal类可以解决上述问题,java的设计者给编程人员提供了一个很有用的类BigDecimal,他可以完善float和double类无法进行精确计算的缺憾。

使用BigDecimal,但一定要用BigDecimal(String)构造器,而千万不要用BigDecimal(double)来构造(也不能将float或double型转换成String再来使用BigDecimal(String)来构造,因为在将float或double转换成String时精度已丢失)。例如new BigDecimal(0.1),它将返回一个BigDecimal,也即0.1000000000000000055511151231257827021181583404541015625,正确使用BigDecimal,程序就可以打印出我们所期望的结果0.9: 

Java代码  
System.out.println(new BigDecimal("2.0").subtract(new BigDecimal("1.10")));// 0.9  
另外,如果要比较两个浮点数的大小,要使用BigDecimal的compareTo方法。 

实例代码如下:

package ex;import java.math.*;public class BigDecimalDemo {    public static void main(String[] args){        System.out.println(ArithUtil.add(0.01, 0.05));        System.out.println(ArithUtil.sub(1.0, 0.42));        System.out.println(ArithUtil.mul(4.015, 100));        System.out.println(ArithUtil.div(123.3, 100));    }}class ArithUtil{    private static final int DEF_DIV_SCALE=10;    private ArithUtil(){}    //相加    public static double add(double d1,double d2){        BigDecimal b1=new BigDecimal(Double.toString(d1));        BigDecimal b2=new BigDecimal(Double.toString(d2));        return b1.add(b2).doubleValue();    }    //相减    public static double sub(double d1,double d2){        BigDecimal b1=new BigDecimal(Double.toString(d1));        BigDecimal b2=new BigDecimal(Double.toString(d2));        return b1.subtract(b2).doubleValue();    }    //相乘    public static double mul(double d1,double d2){        BigDecimal b1=new BigDecimal(Double.toString(d1));        BigDecimal b2=new BigDecimal(Double.toString(d2));        return b1.multiply(b2).doubleValue();    }    //相除    public static double div(double d1,double d2){        return div(d1,d2,DEF_DIV_SCALE);    }    public static double div(double d1,double d2,int scale){        if(scale<0){            throw new IllegalArgumentException("The scale must be a positive integer or zero");        }        BigDecimal b1=new BigDecimal(Double.toString(d1));        BigDecimal b2=new BigDecimal(Double.toString(d2));        return b1.divide(b2,scale,BigDecimal.ROUND_HALF_UP).doubleValue();    }}

现在我们就详细剖析一下浮点型运算为什么会造成精度丢失?

1、小数的二进制表示问题

首先我们要搞清楚下面两个问题:     (1) 十进制整数如何转化为二进制数           算法很简单。举个例子,11表示成二进制数:                     11/2=5 余   1                       5/2=2   余   1                       2/2=1   余   0                       1/2=0   余   1                          0结束         11二进制表示为(从下往上):1011          这里提一点:只要遇到除以后的结果为0了就结束了,大家想一想,所有的整数除以2是不是一定能够最终得到0。换句话说,所有的整数转变为二进制数的算法会不会无限循环下去呢?绝对不会,整数永远可以用二进制精确表示 ,但小数就不一定了。      (2) 十进制小数如何转化为二进制数           算法是乘以2直到没有了小数为止。举个例子,0.9表示成二进制数                     0.9*2=1.8   取整数部分 1                     0.8(1.8的小数部分)*2=1.6    取整数部分 1                     0.6*2=1.2   取整数部分 1                     0.2*2=0.4   取整数部分 0                     0.4*2=0.8   取整数部分 0                     0.8*2=1.6 取整数部分 1                     0.6*2=1.2   取整数部分 0                              .........      0.9二进制表示为(从上往下): 1100100100100......           注意:上面的计算过程循环了,也就是说*2永远不可能消灭小数部分,这样算法将无限下去。很显然,小数的二进制表示有时是不可能精确的 。其实道理很简单,十进制系统中能不能准确表示出1/3呢?同样二进制系统也无法准确表示1/10。这也就解释了为什么浮点型减法出现了"减不尽"的精度丢失问题。

2、 float型在内存中的存储

众所周知、 Java 的float型在内存中占4个字节。float的32个二进制位结构如下float内存存储结构             4bytes      31    30    29----23    22----0                                 表示       实数符号位    指数符号位        指数位          有效数位        其中符号位1表示正,0表示负。有效位数位24位,其中一位是实数符号位。         将一个float型转化为内存存储格式的步骤为:        (1)先将这个实数的绝对值化为二进制格式,注意实数的整数部分和小数部分的二进制方法在上面已经探讨过了。      (2)将这个二进制格式实数的小数点左移或右移n位,直到小数点移动到第一个有效数字的右边。      (3)从小数点右边第一位开始数出二十三位数字放入第22到第0位。      (4)如果实数是正的,则在第31位放入“0”,否则放入“1”。      (5)如果n 是左移得到的,说明指数是正的,第30位放入“1”。如果n是右移得到的或n=0,则第30位放入“0”。      (6)如果n是左移得到的,则将n减去1后化为二进制,并在左边加“0”补足七位,放入第29到第23位。如果n是右移得到的或n=0,则将n化为二进制后在左边加“0”补足七位,再各位求反,再放入第29到第23位。          举例说明: 11.9的内存存储格式       (1) 将11.9化为二进制后大约是" 1011. 1110011001100110011001100..."。       (2) 将小数点左移三位到第一个有效位右侧: "1. 011 11100110011001100110 "。 保证有效位数24位,右侧多余的截取(误差在这里产生了 )。       (3) 这已经有了二十四位有效数字,将最左边一位“1”去掉,得到“ 011 11100110011001100110 ”共23bit。将它放入float存储结构的第22到第0位。       (4) 因为11.9是正数,因此在第31位实数符号位放入“0”。       (5) 由于我们把小数点左移,因此在第30位指数符号位放入“1”。       (6) 因为我们是把小数点左移3位,因此将3减去1得2,化为二进制,并补足7位得到0000010,放入第29到第23位。           最后表示11.9为: 0 1 0000010 011 11100110011001100110           再举一个例子:0.2356的内存存储格式      (1)将0.2356化为二进制后大约是0.00111100010100000100100000。       (2)将小数点右移三位得到1.11100010100000100100000。       (3)从小数点右边数出二十三位有效数字,即11100010100000100100000放入第22到第0位。       (4)由于0.2356是正的,所以在第31位放入“0”。       (5)由于我们把小数点右移了,所以在第30位放入“0”。       (6)因为小数点被右移了3位,所以将3化为二进制,在左边补“0”补足七位,得到0000011,各位取反,得到1111100,放入第29到第23位。            最后表示0.2356为:0 0 1111100 11100010100000100100000          将一个内存存储的float二进制格式转化为十进制的步骤:      (1)将第22位到第0位的二进制数写出来,在最左边补一位“1”,得到二十四位有效数字。将小数点点在最左边那个“1”的右边。      (2)取出第29到第23位所表示的值n。当30位是“0”时将n各位求反。当30位是“1”时将n增1。      (3)将小数点左移n位(当30位是“0”时)或右移n位(当30位是“1”时),得到一个二进制表示的实数。      (4)将这个二进制实数化为十进制,并根据第31位是“0”还是“1”加上正号或负号即可。

 

3、浮点型的减法运算

浮点加减运算过程比定点运算过程复杂。完成浮点加减运算的操作过程大体分为四步:(1) 0操作数的检查;        如果判断两个需要加减的浮点数有一个为0,即可得知运算结果而没有必要再进行有序的一些列操作。 (2) 比较阶码(指数位)大小并完成对阶;    两浮点数进行加减,首先要看两数的 指数位 是否相同,即小数点位置是否对齐。若两数 指数位 相同,表示小数点是对齐的,就可以进行尾数的加减运算。反之,若两数阶码不同,表示小数点位置没有对齐,此时必须使两数的阶码相同,这个过程叫做对阶 。    如何对 阶(假设两浮点数的指数位为 Ex 和 Ey ):    通过尾数的移位以改变 Ex 或 Ey ,使之相等。 由 于浮点表示的数多是规格化的,尾数左移会引起最高有位的丢失,造成很大误差;而尾数右移虽引起最低有效位的丢失,但造成的误差较小,因此,对阶操作规定使 尾数右移,尾数右移后使阶码作相应增加,其数值保持不变。很显然,一个增加后的阶码与另一个相等,所增加的阶码一定是小阶。因此在对阶时,总是使小阶向大阶看齐 ,即小阶的尾数向右移位 ( 相当于小数点左移 ) ,每右移一位,其阶码加 1 ,直到两数的阶码相等为止,右移的位数等于阶差 △ E 。 (3) 尾数(有效数位)进行加或减运算;(4) 结果规格化并进行舍入处理。

 

 

java在计算浮点数的时候,由于二进制无法精确表示0.1的值(就好比十进制无法精确表示1/3一样),所以一般会对小数格式化处理.

但是如果涉及到金钱的项目,一点点误差都不能有,必须使用精确运算的时候,就可以使用BigDecimal方法计算.

但是在使用中还需要注意一个问题:

//直接使用double类型数据进行运算System.out.println(0.05+0.01);//使用BigDecimal的double参数的构造器BigDecimal bd1 = new BigDecimal(0.05);BigDecimal bd2 = new BigDecimal(0.01);System.out.println(bd1.add(bd2));//使用BigDecimal的String参数的构造器BigDecimal bd3 = new BigDecimal("0.05");BigDecimal bd4 = new BigDecimal("0.01");System.out.println(bd3.add(bd4));

这三个输出结果是不一样的:

所以在计算的时候,应该先把数字转换成String类型的,才能得到最精确的值.

 

附常用的方法:

add  加

subtract  减

multiply  乘

divide 除

abs 绝对值

getScale  根据一个规则取几位小数

pow  几次方

 

中文API链接:

http://www.apihome.cn/api/java/BigDecimal.html

转载于:https://www.cnblogs.com/zouhao/p/6713230.html

你可能感兴趣的文章
前端利器躬行记(6)——Fiddler
查看>>
Intellij Idea新建web项目(转)
查看>>
用JAVA编写浏览器内核之实现javascript的document对象与内置方法
查看>>
centos iptables
查看>>
寻找二叉查找树中比指定值小的所有节点中最大的那个节点
查看>>
如何设置输入框达到只读效果
查看>>
RT3070 USB WIFI 在连接socket编程过程中问题总结
查看>>
MIS外汇平台荣获“2013年全球最佳STP外汇交易商”
查看>>
LeetCode 题解之Add Digits
查看>>
hdu1502 , Regular Words, dp,高精度加法
查看>>
SpringBoot在idea中的热部署配置
查看>>
MyEclipse连接SQL Server 2008数据库的操作方法
查看>>
JS验证图片格式和大小并预览
查看>>
laravel5.2 移植到新服务器上除了“/”路由 ,其它路由对应的页面显示报404错误(Object not found!)———新装的LAMP没有加载Rewrite模块...
查看>>
编写高质量代码--改善python程序的建议(六)
查看>>
windows xp 中的administrator帐户不在用户登录内怎么解决?
查看>>
接口和抽象类有什么区别
查看>>
Codeforces Round #206 (Div. 2)
查看>>
**p
查看>>
优先队列详解
查看>>