浮点数在计算机硬件中表示为以2为基数(二进制)的小数。举例而言,十进制的小数0.125等于1/10 + 2100 + 51000 ,同理,二进制的小数0.001等于0/2 + 0/4 + 1/8。这两个小数具有相同的值,唯一真正的区别是第一个是以10为基数的小数表示法,第二个则是2为基数。

而在python的浮点计算,结果并不是准确的。例如:

1
2
>>> 1.2 - 1.0
0.19999999999999996

为什么浮点计算不准确?
CPython中的float类型使用C语言的double类型进行存储。 float对象的值是以固定的精度(通常为53位)存储的二进制浮点数,由于Python使用C操作,而后者依赖于处理器中的硬件实现来执行浮点运算。 这意味着就浮点运算而言,Python的行为类似于许多流行的语言,包括C和Java。这不是Python中的一个bug。这与Python关系不大,而与底层平台如何处理浮点数字关系更大。

用十进制来理解这个问题显得更加容易一些。考虑分数1/3。我们可以得到它在十进制下的一个近似值0.3,或者更近似的0.33,或者更近似的0.333,以此类推。结果是无论你写下多少的数字,它都永远不会等于1/3 ,只是更加更加地接近1/3 。

同样的道理,无论你使用多少位以2为基数的数码,十进制的0.1都无法精确地表示为一个以2为基数的小数。 在以2为基数的情况下, 1/10是一个无限循环小数0.0001100110011001100110011001100110011001100110011… 在任何一个位置停下,你都只能得到一个近似值。因此,在今天的大部分架构上,浮点数都只能近似地使用二进制小数表示,对应分数的分子使用每8字节的前53位表示,分母则表示为2的幂次。在1/10这个例子中,相应的二进制分数是3602879701896397 / 2 ** 55,它很接近1/10,但并不是1/10。

大部分用户都不会意识到这个差异的存在,因为Python只会打印计算机中存储的二进制值的十进制近似值。在大部分计算机中,如果Python想把0.1的二进制对应的精确十进制打印出来,将会变成这样:

1
2
>>> 0.1
0.1000000000000000055511151231257827021181583404541015625

这比大多数人认为有用的数字更多,因此Python通过显示舍入值来保持可管理的位数

1
2
>>> 1 / 10
0.1

牢记 即使输出的结果看起来好像就是 110 的精确值,实际储存的值只是最接近 110 的计算机可表示的二进制分数。

有趣的是,有许多不同的十进制数共享相同的最接近的近似二进制小数。例如,0.1、 0.10000000000000001、 0.1000000000000000055511151231257827021181583404541015625全都近似于 3602879701896397 / 2 ** 55 。由于所有这些十进制值都具有相同的近似值,因此可以显示其中任何一个,同时仍然保留不变的 eval(repr(x)) == x 。

在历史上,Python提示符和内置的repr()函数会选择具有 17 位有效数字的来显示,即 0.10000000000000001。 从 Python 3.1 开始,Python(在大多数系统上)现在能够选择这些表示中最短的并简单地显示 0.1 。

请注意这种情况是二进制浮点数的本质特性:它不是 Python 的错误,也不是你代码中的错误。 你会在所有支持你的硬件中的浮点运算的语言中发现同样的情况(虽然某些语言在默认状态或所有输出模块下都不会 显示 这种差异)。

想要更美观的输出,你可能会希望使用字符串格式化来产生限定长度的有效位数:

1
2
3
4
5
6
7
8
>>> format(math.pi, '.12g')  # 12位(包括小数点前1位和小数点后11位)
'3.14159265359'

>>> format(math.pi, '.2f')   # 小数点后2位
'3.14'

>>> repr(math.pi)
'3.141592653589793'

必须重点了解的是,这在实际上只是一个假象:你只是将真正的机器码值进行了舍入操作再显示而已。

一个假象还可能导致另一个假象。 例如,由于这个0.1并非真正的1/10,将三个0.1的值相加也不一定能恰好得到 0.3:

1
2
>>> .1 + .1 + .1 == .3
False

而且,由于这个0.1无法精确表示 110 的值而这个 0.3 也无法精确表示 310 的值,使用round()函数进行预先舍入也是没用的:

1
2
3
>>>
>>> round(.1, 1) + round(.1, 1) + round(.1, 1) == round(.3, 1)
False

虽然这些小数无法精确表示其所要代表的实际值,round()函数还是可以用来“事后舍入”,使得实际的结果值可以做相互比较:

1
2
>>> round(.1 + .1 + .1, 10) == round(.3, 10)
True

Python 浮点运算中的错误是从浮点运算硬件继承而来,而在大多数机器上每次浮点运算得到的 2**53 数码位都会被作为 1 个整体来处理。 这对大多数任务来说都已足够,但你确实需要记住它并非十进制算术,且每次浮点运算都可能会导致新的舍入错误。

虽然病态的情况确实存在,但对于大多数正常的浮点运算使用来说,你只需简单地将最终显示的结果舍入为你期望的十进制数值即可得到你期望的结果。 str() 通常已足够,对于更精度的控制可参看 Format String Syntax 中 str.format() 方法的格式描述符。

对于需要精确十进制表示的使用场景,请尝试使用 decimal 模块,该模块实现了适合会计应用和高精度应用的十进制运算。

另一种形式的精确运算由 fractions 模块提供支持,该模块实现了基于有理数的算术运算(因此可以精确表示像 13 这样的数值)。

如果你是浮点运算的重度用户,你应该看一下数值运算 Python 包 NumPy 以及由 SciPy 项目所提供的许多其它数学和统计运算包。 参见 https://scipy.org

Python 也提供了一些工具,可以在你真的想要知道一个浮点数精确值的少数情况下提供帮助。 例如 float.as_integer_ratio()方法会将浮点数表示为一个分数:

1
2
3
>>> x = 3.14159
>>> x.as_integer_ratio()
(3537115888337719, 1125899906842624)

由于这是一个精确的比值,它可以被用来无损地重建原始值:

1
2
>>> x == 3537115888337719 / 1125899906842624
True

float.hex() 方法会以十六进制(以 16 为基数)来表示浮点数,同样能给出保存在你的计算机中的精确值:

1
2
>>> x.hex()
'0x1.921f9f01b866ep+1'

这种精确的十六进制表示法可被用来精确地重建浮点值:

1
>>> x == float.fromhex('0x1.921f9f01b866ep+1')

由于这种表示法是精确的,它适用于跨越不同版本(平台无关)的 Python 移植数值,以及与支持相同格式的其他语言(例如 Java 和 C99)交换数据.

另一个有用的工具是 math.fsum() 函数,它有助于减少求和过程中的精度损失。 它会在数值被添加到总计值的时候跟踪“丢失的位”。 这可以很好地保持总计值的精确度, 使得错误不会积累到能影响结果总数的程度:

1
2
3
4
>>> sum([0.1] * 10) == 1.0
False
>>> math.fsum([0.1] * 10) == 1.0
True

表示性错误

本小节将详细解释 “0.1” 的例子,并说明你可以怎样亲自对此类情况进行精确分析。 假定前提是已基本熟悉二进制浮点表示法。

表示性错误是指某些(其实是大多数)十进制小数无法以二进制(以 2 为基数的计数制)精确表示这一事实造成的错误。 这就是为什么 Python(或者 Perl、C、C++、Java、Fortran 以及许多其他语言)经常不会显示你所期待的精确十进制数值的主要原因。

为什么会这样? 110 是无法用二进制小数精确表示的。 目前(2000年11月)几乎所有使用 IEEE-754 浮点运算标准的机器以及几乎所有系统平台都会将 Python 浮点数映射为 IEEE-754 “双精度类型”。 754 双精度类型包含 53 位精度,因此在输入时,计算会尽量将 0.1 转换为以 J/2**N 形式所能表示的最接近分数,其中 J 为恰好包含 53 个二进制位的整数。 重新将 1 / 10 ~= J / (2**N) 写为 J ~= 2**N / 10 并且由于 J 恰好有 53 位 (即 >= 2**52 但 < 2**53),N 的最佳值为 56:

1
2
>>> 2**52 <=  2**56 // 10  < 2**53
True

也就是说,56 是唯一的 N 值能令 J 恰好有 53 位。 这样 J 的最佳可能值就是经过舍入的商:

1
2
3
>>> q, r = divmod(2**56, 10)
>>> r
6

由于余数超过 10 的一半,最佳近似值可通过四舍五入获得:

1
2
>>> q+1
7205759403792794

这样在 754 双精度下 110 的最佳近似值为:
7205759403792794 / 2 ** 56
分子和分母都除以二则结果小数为:
3602879701896397 / 2 ** 55
请注意由于我们做了向上舍入,这个结果实际上略大于 1/10;如果我们没有向上舍入,则商将会略小于 1/10。 但无论如何它都不会是 精确的 1/10!

因此计算永远不会“看到”1/10:它实际看到的就是上面所给出的小数,它所能达到的最佳 754 双精度近似值:

1
2
>>> 0.1 * 2 ** 55
3602879701896397.0

如果我们将该小数乘以 10**55,我们可以看到该值输出为 55 位的十进制数:

1
2
>>> 3602879701896397 * 10 ** 55 // 2 ** 55
1000000000000000055511151231257827021181583404541015625

这意味着存储在计算机中的确切数值等于十进制数值 0.1000000000000000055511151231257827021181583404541015625。 许多语言(包括较旧版本的 Python)都不会显示这个完整的十进制数值,而是将结果舍入为 17 位有效数字:

1
2
>>> format(0.1, '.17f')
'0.10000000000000001'

fractions 和 decimal 模块可令进行此类计算更加容易:

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
>>> from decimal import Decimal
>>> from fractions import Fraction

>>> Fraction.from_float(0.1)
Fraction(3602879701896397, 36028797018963968)

>>> (0.1).as_integer_ratio()
(3602879701896397, 36028797018963968)

>>> Decimal.from_float(0.1)
Decimal('0.1000000000000000055511151231257827021181583404541015625')

>>> format(Decimal.from_float(0.1), '.17')
'0.10000000000000001'

参考资料:
翻译自https://docs.python.org/3/tutorial/floatingpoint.html