浮点数精度问题

2024-01-02 16:41:40
Python 3.10.12 (main, Nov 20 2023, 15:14:05) [GCC 11.4.0] on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> 24.2 / 0.1
241.99999999999997
>>> 24.2 * (1 / 0.1)
242.0
>>>

在计算机中，浮点数运算可能导致精度误差，这是由于浮点数的内部表示方式和计算方式所导致的。Python 中也存在这种情况。

24.2 / 0.1 实际上是除法运算，结果应该是精确的 242.0，但由于浮点数的表示方式和计算精度，可能会出现微小的误差，例如 241.99999999999997。
24.2 * (1 / 0.1) 中的 1 / 0.1 先被计算成 10.0，再与 24.2 相乘，这样的结果在浮点数表示下应该是精确的 242.0。
在Python中，由于浮点数精度限制，某些计算可能会产生微小的误差，但在数学上这两个表达式应该得到相同的结果。

文章来源:https://blog.csdn.net/YoungHong1992/article/details/135343503
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。