| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 1433 人关注过本帖
标题:java数据精度是怎么计算的
只看楼主 加入收藏
dzy123
Rank: 8Rank: 8
等 级:蝙蝠侠
威 望:5
帖 子:379
专家分:820
注 册:2013-4-18
结帖率:82%
收藏
已结贴  问题点数:20 回复次数:1 
java数据精度是怎么计算的
我用3.14*6*6
我想应是113.04
而实际是113.03999999999999是怎么回事呢
搜索更多相关主题的帖子: java 数据 精度 计算 
2019-03-29 08:51
rind
Rank: 5Rank: 5
等 级:贵宾
威 望:17
帖 子:49
专家分:368
注 册:2018-3-8
收藏
得分:20 
因为拿2进制数表示小数,不好表示。
就像拿十进制数表示1/3是0.33333...
而且计算是有顺序的,通常每操作一次会损失一点精度。


仅供参考,欢迎指正
2019-03-29 11:20
快速回复:java数据精度是怎么计算的
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.016382 second(s), 9 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved