| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 851 人关注过本帖
标题:Python小技巧:浮点数精确求和
只看楼主 加入收藏
东海ECS
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20
来 自:Python
等 级:版主
威 望:32
帖 子:412
专家分:1646
注 册:2023-1-24
结帖率:100%
收藏
 问题点数:0 回复次数:3 
Python小技巧:浮点数精确求和
你有没有遇到过这种情况:
>>>0.1 + 0.2 + 0.3
   0.6000000000000001

怎么会这样?我们再来看一下这段代码:
程序代码:
import math
a = math.fsum([0.1,0.2,0.3])
print (a)

程序运行结果为0.6
浮点数,如0.1,0.2,0.3,在Python解释器内部表示时存在一个小数点后若干数位的精度尾数,如0.6表示为0.6000000000000001,当浮点数进行运算时候,这个精度尾数会影响结果.所有编程语言一般都有这个问题.
怎么办呢?可以用math库中的一个方法:
math.fsum(浮点数列表)
这个方法的解释就是浮点数精确求和,它可以把浮点数列表中的所有浮点数进行加,返回结果.这个结果一般是准确的.
所以,在涉及浮点数加法与结果比较时,建议使用math库的fsum方法,而不直接使用Python提供的运算符.
搜索更多相关主题的帖子: 求和 结果 Python 浮点数 math 
2023-01-27 11:44
sssooosss
Rank: 9Rank: 9Rank: 9
等 级:禁止访问
威 望:3
帖 子:664
专家分:1115
注 册:2019-8-27
收藏
得分:0 
共同学习
2023-01-28 19:28
白砼
Rank: 1
等 级:新手上路
帖 子:8
专家分:0
注 册:2023-5-18
收藏
得分:0 
学习中,各大老多多关照
2023-06-09 10:03
风卷浪起
Rank: 3Rank: 3
来 自:universe
等 级:论坛游侠
威 望:4
帖 子:190
专家分:149
注 册:2021-11-13
收藏
得分:0 

人生苦短,我用Python~~~
对Pygame相关内容有兴趣,求带。
2023-06-23 16:33
快速回复:Python小技巧:浮点数精确求和
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.036679 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved