| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 1077 人关注过本帖
标题:求一个取小数的算法
只看楼主 加入收藏
Eastsun
Rank: 7Rank: 7Rank: 7
等 级:贵宾
威 望:32
帖 子:802
专家分:0
注 册:2006-12-14
收藏
得分:0 
事实上你那种算法也存在同样的问题.不过我的经过一次运算后误差会更大.
当把浮点值保存在计算机后,就不要期望它和你预期的严格相等.

所以对于有高精度要求的场合,还是用BigDecimal为好.


My BlogClick Me
2007-03-27 11:56
Eastsun
Rank: 7Rank: 7Rank: 7
等 级:贵宾
威 望:32
帖 子:802
专家分:0
注 册:2006-12-14
收藏
得分:0 
不晓得楼主后来是怎样解决的?

My BlogClick Me
2007-03-27 11:57
千里冰封
Rank: 16Rank: 16Rank: 16Rank: 16
来 自:灌水之王
等 级:版主
威 望:155
帖 子:28477
专家分:59
注 册:2006-2-26
收藏
得分:0 
呵呵,那也是.我也想知道楼主是怎么解决的,还有,楼主为什么会有这种需求?

可惜不是你,陪我到最后
2007-03-27 12:06
快速回复:求一个取小数的算法
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.019641 second(s), 10 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved