| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 1233 人关注过本帖
标题:sql小数相乘出现零值问题
只看楼主 加入收藏
wuyongjun198
Rank: 1
等 级:新手上路
帖 子:2
专家分:0
注 册:2015-5-15
结帖率:0
收藏
已结贴  问题点数:20 回复次数:1 
sql小数相乘出现零值问题
1.
 select  cast( 0.0050000000 as decimal(38,23)) * cast(0.0000010000 as decimal(38,23)),此sql结果为何为0
 select  cast( 0.0050000000 as decimal(28,23)) * cast(0.0000010000 as decimal(28,23)) ,此sql值又不为零

2.
 select  cast( 0.01 as decimal(28,15)) * cast(0.0000000001 as decimal(28,15))  结果为零
select  cast( 0.01 as decimal(28,16)) * cast(0.0000000001 as decimal(28,16))  结果不为零


 我理解的sql小数相乘是这样的:
1.不同精度小数相乘,得出的结果小数精度会跟最大精度小数一致
2.当结果超出最大精度时,会按最大精度做四舍五入



 现在看到的情况完全不明白发生了什么!
2015-05-15 17:38
tlliqi
Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19Rank: 19
等 级:贵宾
威 望:204
帖 子:15453
专家分:65956
注 册:2006-4-27
收藏
得分:20 
是的
2015-05-18 14:12
快速回复:sql小数相乘出现零值问题
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.014514 second(s), 8 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved