注册 登录
编程论坛 Python论坛

Python小技巧:浮点数精确求和

东海ECS 发布于 2023-01-27 11:44, 753 次点击
你有没有遇到过这种情况:

>>>0.1 + 0.2 + 0.3
   0.6000000000000001

怎么会这样?我们再来看一下这段代码:
程序代码:

import math
a = math.fsum([0.1,0.2,0.3])
print (a)

程序运行结果为0.6
浮点数,如0.1,0.2,0.3,在Python解释器内部表示时存在一个小数点后若干数位的精度尾数,如0.6表示为0.6000000000000001,当浮点数进行运算时候,这个精度尾数会影响结果.所有编程语言一般都有这个问题.
怎么办呢?可以用math库中的一个方法:
math.fsum(浮点数列表)
这个方法的解释就是浮点数精确求和,它可以把浮点数列表中的所有浮点数进行加,返回结果.这个结果一般是准确的.
所以,在涉及浮点数加法与结果比较时,建议使用math库的fsum方法,而不直接使用Python提供的运算符.
3 回复
#2
sssooosss2023-01-28 19:28
共同学习
#3
白砼2023-06-09 10:03
学习中,各大老多多关照
#4
风卷浪起2023-06-23 16:33
1