jdk-sourcecode-analysis icon indicating copy to clipboard operation
jdk-sourcecode-analysis copied to clipboard

浮点数精度问题

Open seaswalker opened this issue 7 years ago • 0 comments

精度问题出现的本质原因是浮点数无法精确的表示大多数十进制小数,以下面的计算为例:

System.out.println(81.6 * 10);
System.out.println(81.6 * 100);

其输出结果是:

816.0
8159.999999999999

数字81.6在写出来之后就不是精确表示了,随后的计算所以也随之不准确。下面的除法是准确的:

System.out.println(816 / 100D);

因为对于整数,816和100都是可以精确表示的,所以最后的结果便是对的。

seaswalker avatar Jan 15 '19 06:01 seaswalker