浮点数为什么不精确?

访客2023-12-01 15:58:0211

1

浮点数为什么不切确?

其实那句话自己就不切确, 相对切确一点的说法是: 我们码农在法式里写的10进造小数,计算机内部无法用二进造的小数来切确的表达。

什么是二进造的小数? 就是形如 101.11 数字,留意,那是二进造的,数字只能是0和1。

101.11 就等于 1 * 2^2 +0 *2^1 + 1*2^0 + 1*2^-1 + 1*2^-2 = 4+0+1+1/2+1/4 = 5.75

下面的图展现了一个二进造小数的表达形式。

(公家号码农翻身注: 此图来自于《深切理解计算机系统》第2章)

从图中能够看到,关于二进造小数,小数点右边能表达的值是 1/2, 1/4, 1/8, 1/16, 1/32, 1/64, 1/128 ... 1/(2^n)

如今问题来了, 计算机只能用那些个 1/(2^n) 之和来表达十进造的小数。

我们来试一试若何表达十进造的 0.2 吧。

0.01 = 1/4 = 0.25 ,太大

0.001 =1/8 = 0.125 , 又太小

0.0011 = 1/8 + 1/16 = 0.1875 , 迫近0.2了

0.00111 = 1/8 + 1/16 + 1/32 = 0.21875 , 又大了

0.001101 = 1/8+ 1/16 + 1/64 = 0.203125 仍是大

0.0011001 = 1/8 + 1/16 + 1/128 = 0.1953125 那成果不错

0.00110011 = 1/8+1/16+1/128+1/256 = 0.19921875

已经很迫近了, 就如许吧。

那就是我说的用二进造小数没法切确表达10进造小数的含义。

2

浮点数的计算机暗示

那计算机内部详细是怎么暗示的呢?

计算机不成能供给无限的空间让法式去存储那些二进造小数。

它需要规定长度, 在Java 中, 供给了两种体例: float 和double , 别离是32位和64位。

能够如许查看一下一个float的内部暗示(以0.09f为例):

Float.floatToRawIntBits(0.09f)

你将会得到:1035489772, 那是10进造的, 转化成二进造, 在前面加几个0补足 32位就是:

0 01111011 01110000101000111101100

你能够看到它分红了3段:

第一段代表了符号(s) : 0 正数, 1 负数 , 其实更准确的表达是 (-1) ^0

第二段是阶码(e):01111011 ,对应的10进造是 123

第三段是尾数(M)

你看到了尾数和阶码,就会大白那其实是所谓的科学计数法:

(-1)^s * M * 2^e

关于0.09f 的例子,就是:

0101110000101000111101100 * (2^123)

仿佛不合错误,那必定远远大于0.09f !

那是因为浮点数遵照的是IEEE754 暗示法, 我们适才的s(符号) 是对的,但是 e(阶码)和 M(尾数)需要变更:

关于阶码e , 一共有8位, 那是个有符号数, 出格是根据IEEE754 标准, 若是不是0或者255, 那就需要减去一个叫偏置量的值,关于float 是127

所以 E = e - 127 = 123-127 = -4

关于尾数M ,若是阶码不是0或者255, 他其实隐藏了一个小数点右边的一个 1 (节省空间,充实压榨每一个bit啊)。

即 M = 1.01110000101000111101100

如今写出来就是:

1.01110000101000111101100 * 2^-4

=0.000101110000101000111101100

= 1/16 + 1/64 + 1/128+ 1/256 + ....

= 0.0900000035762786865234375

你看那就是0.09的内部暗示, 很明显他比0.09更大一些, 是不切确的!

64位的双精度浮点数double是也是类似的, 只是尾数和阶码更长, 能表达的范畴更大。

符号位 :1位

阶码 : 11位

尾数: 52位

(公家号码农翻身注: 那个图也是来源于《深切理解计算机系统》第二章)

上面的例子0.09f 其实是所谓的规格化的浮点数, 还有非规格化的浮点数,那里就不展开了。

3

利用浮点数

因为浮点数暗示的那种“不切确性”或者说是“近似性”, 关于切确度要求不高的运算还行, 若是我们用float或者double 来做哪些要求切确的运算(例如银行)时就要小心了, 很可能得不到你想要的成果。

详细的改良办法保举各人看看《Effective Java》在第48条所保举的“利用BigDecimal来做切确运算”。

控制面板

您好,欢迎到访网站!
  查看权限

最新留言