浮点数精度问题

2024-01-02 16:41:40
Python 3.10.12 (main, Nov 20 2023, 15:14:05) [GCC 11.4.0] on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> 24.2 / 0.1
241.99999999999997
>>> 24.2 * (1 / 0.1)
242.0
>>> 

在计算机中,浮点数运算可能导致精度误差,这是由于浮点数的内部表示方式和计算方式所导致的。Python 中也存在这种情况。

24.2 / 0.1 实际上是除法运算,结果应该是精确的 242.0,但由于浮点数的表示方式和计算精度,可能会出现微小的误差,例如 241.99999999999997。
24.2 * (1 / 0.1) 中的 1 / 0.1 先被计算成 10.0,再与 24.2 相乘,这样的结果在浮点数表示下应该是精确的 242.0。
在Python中,由于浮点数精度限制,某些计算可能会产生微小的误差,但在数学上这两个表达式应该得到相同的结果。

文章来源:https://blog.csdn.net/YoungHong1992/article/details/135343503
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。