| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 625 人关注过本帖
标题:刚注册,现其目的只有一个,请问Vc6.0计算出来的结果为何是这样?
只看楼主 加入收藏
lzh253739255
Rank: 2
等 级:论坛游民
帖 子:32
专家分:24
注 册:2013-10-8
结帖率:100%
收藏
 问题点数:0 回复次数:9 
刚注册,现其目的只有一个,请问Vc6.0计算出来的结果为何是这样?
如图。
输入1e-2*3 值为什么是0.029999999999999
0.01的值又是 0.0100000000000
0.03 值 0.029999999999999
2013-10-08 13:18
heroinearth
Rank: 10Rank: 10Rank: 10
来 自:云南曲靖
等 级:青峰侠
帖 子:430
专家分:1506
注 册:2011-10-24
收藏
得分:0 
我试了一下,是0.03
2013-10-08 13:53
lzh253739255
Rank: 2
等 级:论坛游民
帖 子:32
专家分:24
注 册:2013-10-8
收藏
得分:0 
回复 2楼 heroinearth
难道是我的编译器有问题么。
又不能上图。
能上图我就上个图给你看。
我输1e-2*3 value 0.02999999999999
输入0.02  value 0.01000000000000
输入0.03 value 0.029999999999999

程序员应该足够懒,追求一劳永逸,写出来的代码,应是可以反复使用的.
2013-10-08 13:57
Hamster4U
Rank: 2
等 级:论坛游民
帖 子:7
专家分:12
注 册:2013-9-11
收藏
得分:0 
如果你能看一下C语言的浮点数表达形式,也许你就会明白了;但我给你做个不是很精确的解释吧,C语言浮点数的表现形式,并不是精确存储的,比如数字0,它在存储的时候不会直接存储0,而是一个无限接近0的数,一般情况下我们要比较一个数是不是等于0,只要跟1e-6相比较就可以,这个数已经很精确了,比直接使用数字0精确多了。建议你看一下浮点数的存储方式这一节的知识。
2013-10-08 14:01
图形处理
Rank: 1
等 级:新手上路
帖 子:4
专家分:3
注 册:2013-10-8
收藏
得分:0 
回复 4楼 Hamster4U
我也刚看视频,也是这么说的,浮点型不能保证准确存储,而是近似值。。。当时上课的时候就没发现。。。
2013-10-08 14:27
lzh253739255
Rank: 2
等 级:论坛游民
帖 子:32
专家分:24
注 册:2013-10-8
收藏
得分:0 
回复 5楼 图形处理
啊?
看视频??
什么视频...

程序员应该足够懒,追求一劳永逸,写出来的代码,应是可以反复使用的.
2013-10-08 14:31
lzh253739255
Rank: 2
等 级:论坛游民
帖 子:32
专家分:24
注 册:2013-10-8
收藏
得分:0 
回复 4楼 Hamster4U
学习了.
3Q.!

程序员应该足够懒,追求一劳永逸,写出来的代码,应是可以反复使用的.
2013-10-08 14:55
图形处理
Rank: 1
等 级:新手上路
帖 子:4
专家分:3
注 册:2013-10-8
收藏
得分:0 
回复 6楼 lzh253739255
郝斌C语言视频。。。你也可以看看,网上有他的视频。。。
2013-10-08 15:06
lzh253739255
Rank: 2
等 级:论坛游民
帖 子:32
专家分:24
注 册:2013-10-8
收藏
得分:0 
回复 8楼 图形处理
哦.
原来你看他的啊.
貌似他的讲基础讲的很深呢.

程序员应该足够懒,追求一劳永逸,写出来的代码,应是可以反复使用的.
2013-10-08 15:20
loveClangage
Rank: 8Rank: 8
来 自:广东云浮
等 级:蝙蝠侠
帖 子:326
专家分:891
注 册:2013-8-23
收藏
得分:0 
看看格式控制吧

编写的程序,不能改变世界,却可以改变自己...
2013-10-08 22:34
快速回复:刚注册,现其目的只有一个,请问Vc6.0计算出来的结果为何是这样?
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.020753 second(s), 9 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved