添加链接
link管理
链接快照平台
  • 输入网页链接,自动生成快照
  • 标签化管理网页链接

一、背景

在java中float赋值给double,会产生精度问题。

  1. float a = 2.1f;
  2. double b = 3.3;
  3. b = a;
  4. System.out.println(b);

输出为 2.0999999046325684。

二、案例

  1. public class Test{
  2. public static void main(String args[]){
  3. System.out.println(0.05+0.01);
  4. System.out.println(1.0-0.42);
  5. System.out.println(4.015*100);
  6. System.out.println(123.3/100);
  7. }
  8. }

结果:

  1. 0.060000000000000005
  2. 0.5800000000000001
  3. 401.49999999999994
  4. 1.2329999999999999

三、小数的二进制表示问题

首先我们要搞清楚下面两个问题:

1、十进制整数如何转化为二进制数

算法很简单。举个例子,11表示成二进制数:

  1. 11/2=5 1
  2. 5/2=2 1
  3. 2/2=1 0
  4. 1/2=0 1
  5. 0结束
  6. 11二进制表示为(从下往上):1011

这里提一点:只要遇到除以后的结果为0了就结束了,大家想一想,所有的整数除以2是不是一定能够最终得到0。换句话说,所有的整数转变为二进制数的算法会不会无限循环下去呢?绝对不会,整数永远可以用二进制精确表示 ,但小数就不一定了。

2、十进制小数如何转化为二进制数

算法是乘以2直到没有了小数为止。举个例子,0.9表示成二进制数

  1. 0.9*2=1.8 取整数部分 1
  2. 0.8(1.8的小数部分)*2=1.6 取整数部分 1
  3. 0.6*2=1.2 取整数部分 1
  4. 0.2*2=0.4 取整数部分 0
  5. 0.4*2=0.8 取整数部分 0
  6. 0.8*2=1.6 取整数部分 1
  7. 0.6*2=1.2 取整数部分 0
  8. .........
  9. 0.9二进制表示为(从上往下): 1100100100100......

注意:上面的计算过程循环了,也就是说*2永远不可能消灭小数部分,这样算法将无限下去。很显然,小数的二进制表示有时是不可能精确的 。其实道理很简单,十进制系统中能不能准确表示出1/3呢?同样二进制系统也无法准确表示1/10。这也就解释了为什么浮点型减法出现了”减不尽”的精度丢失问题。

3、float型在内存中的存储

众所周知、 Java 的float型在内存中占4个字节。float的32个二进制位结构如下
float内存存储结构

4bytes 29~23

其中符号位1表示正,0表示负。有效位数位24位,其中一位是实数符号位。
将一个float型转化为内存存储格式的步骤为:

  • 先将这个实数的绝对值化为二进制格式,注意实数的整数部分和小数部分的二进制方法在上面已经探讨过了。
  • 将这个二进制格式实数的小数点左移或右移n位,直到小数点移动到第一个有效数字的右边。
  • 从小数点右边第一位开始数出二十三位数字放入第22到第0位。
  • 如果实数是正的,则在第31位放入“0”,否则放入“1”。
  • 如果n 是左移得到的,说明指数是正的,第30位放入“1”。如果n是右移得到的或n=0,则第30位放入“0”。
  • 如果n是左移得到的,则将n减去1后化为二进制,并在左边加“0”补足七位,放入第29到第23位。如果n是右移得到的或n=0,则将n化为二进制后在左边加“0”补足七位,再各位求反,再放入第29到第23位。
  • 举例说明: 11.9的内存存储格式

  • 将11.9化为二进制后大约是” 1011. 1110011001100110011001100…”。
  • 将小数点左移三位到第一个有效位右侧: “1. 011 11100110011001100110 “。 保证有效位数24位,右侧多余的截取(误差在这里产生了 )。
  • 这已经有了二十四位有效数字,将最左边一位“1”去掉,得到“ 011 11100110011001100110 ”共23bit。将它放入float存储结构的第22到第0位。
  • 因为11.9是正数,因此在第31位实数符号位放入“0”。
  • 由于我们把小数点左移,因此在第30位指数符号位放入“1”。
  • 因为我们是把小数点左移3位,因此将3减去1得2,化为二进制,并补足7位得到0000010,放入第29到第23位。
  • 最后表示11.9为: 0 1 0000010 011 11100110011001100110
  • 再举一个例子:0.2356的内存存储格式

  • 将0.2356化为二进制后大约是0.00111100010100000100100000。
  • 将小数点右移三位得到1.11100010100000100100000。
  • 从小数点右边数出二十三位有效数字,即11100010100000100100000放
  • 入第22到第0位。
  • 由于0.2356是正的,所以在第31位放入“0”。
  • 由于我们把小数点右移了,所以在第30位放入“0”。
  • 因为小数点被右移了3位,所以将3化为二进制,在左边补“0”补足七
  • 位,得到0000011,各位取反,得到1111100,放入第29到第23位。
  • 最后表示0.2356为:0 0 1111100 11100010100000100100000
  • 将一个内存存储的float二进制格式转化为十进制的步骤:

  • 将第22位到第0位的二进制数写出来,在最左边补一位“1”,得到二十四位有效数字。将小数点点在最左边那个“1”的右边。
  • 取出第29到第23位所表示的值n。当30位是“0”时将n各位求反。当30位是“1”时将n增1。
  • 将小数点左移n位(当30位是“0”时)或右移n位(当30位是“1”时),得到一个二进制表示的实数。
  • 将这个二进制实数化为十进制,并根据第31位是“0”还是“1”加上正号或负号即可。
  • 4、浮点型的减法运算