| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 1922 人关注过本帖
标题:关于浮点型的那点事
只看楼主 加入收藏
DYG0704
Rank: 1
等 级:新手上路
帖 子:3
专家分:0
注 册:2014-9-2
收藏
 问题点数:0 回复次数:1 
关于浮点型的那点事
float和double是逢六进一,decimal是逢五进一。当cmd中设置float(5,2);添加数据为2.555的时候,查询时显示2.56 !!求解??
搜索更多相关主题的帖子: double 
2014-09-02 23:40
time1609
Rank: 3Rank: 3
等 级:论坛游侠
威 望:1
帖 子:59
专家分:118
注 册:2016-5-10
收藏
得分:0 
精度的问题吧,2.555是3个小数点,2.56是2个小数点,明显有一位四舍五入了。

2016-06-04 17:56
快速回复:关于浮点型的那点事
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.064472 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved