| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 1545 人关注过本帖
标题:不同数据类型比较大小的问题
只看楼主 加入收藏
wangfuli
Rank: 4
等 级:贵宾
威 望:12
帖 子:206
专家分:10
注 册:2005-11-11
收藏
 问题点数:0 回复次数:3 
不同数据类型比较大小的问题

我在server2000中有一个属性列为real,我将这个属性得到总和,比如说得到2.555,然后在.net中声明一个double为2.555,将这两个2.555比较大小,结果double的2.555比real的2.555要大,难道server2000的real和double不一样吗?

还有两个数比较:一个为single,一个为double,都是2.555,比较后,结果single的2.555大于double的2.555;

如果将double的2.555先转换成single后,在和single的2.555比较,就相等了,请问为什么了?

谢谢

搜索更多相关主题的帖子: double single 类型 数据 real 
2007-02-27 20:00
bygg
Rank: 16Rank: 16Rank: 16Rank: 16
来 自:乖乖的心中
等 级:版主
威 望:241
帖 子:13555
专家分:3076
注 册:2006-10-23
收藏
得分:0 
还没想清楚??

飘过~~
2007-02-27 20:30
Kendy123456
Rank: 10Rank: 10Rank: 10
等 级:贵宾
威 望:62
帖 子:2720
专家分:0
注 册:2007-1-3
收藏
得分:0 

精度问题
在VB6版曾经有个贴非常详尽的讨论过这个问题 去找找吧


2007-02-28 09:14
wangfuli
Rank: 4
等 级:贵宾
威 望:12
帖 子:206
专家分:10
注 册:2005-11-11
收藏
得分:0 
先谢谢,这个我也清楚,但是在解决的时候有点头疼,很麻烦,这看似很基础,很简单的东西,在做东西的时候,确实很重要很棘手的了,有没有好点的方法解决,使数据计算上精确一点?

2007-02-28 13:33
快速回复:不同数据类型比较大小的问题
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.039205 second(s), 7 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved