| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 1153 人关注过本帖
标题:[求助]数据计算和类型的小问题,困惑
只看楼主 加入收藏
honvin
Rank: 1
等 级:新手上路
帖 子:13
专家分:0
注 册:2007-10-22
收藏
 问题点数:0 回复次数:7 
[求助]数据计算和类型的小问题,困惑
各位大大,小弟刚学delphi,遇到一个小问题:我定义了三个Extended类型的变量,赋值后作减法运算,比如计算结果应为 682.6 ,但是程序的计算结果却是 682.599999999977 ,不知这是怎么回事?求各位大大解释一二为谢!!!!
小弟用的是delphi5

[此贴子已经被作者于2007-10-24 22:18:46编辑过]

搜索更多相关主题的帖子: 类型 数据 困惑 
2007-10-24 00:17
anthony634
Rank: 6Rank: 6
来 自:西南交大
等 级:贵宾
威 望:24
帖 子:653
专家分:10
注 册:2006-6-8
收藏
得分:0 

帖代码

2007-10-24 12:44
xu2000
Rank: 9Rank: 9Rank: 9
等 级:贵宾
威 望:51
帖 子:3890
专家分:56
注 册:2006-4-8
收藏
得分:0 

浮点数运算是有误差的,因为浮点数使用的是科学计数法。楼主可以使用Currency这个数据类型。


我会拿出我全部的钱财,以保你衣食无忧。我会献出我所有的智慧,以助你一帆风顺。我会想到所有的笑语,以令你展眉开颜。我会挤出最长的时间,以使你终生幸福。        [本人原创的结婚宣言]
2007-10-24 13:22
honvin
Rank: 1
等 级:新手上路
帖 子:13
专家分:0
注 册:2007-10-22
收藏
得分:0 
procedure TForm1.Edit1Exit(Sender: TObject);
begin
qd:=0;zd:=0;qc:=0;
if (Edit1.Text<>'')and(Edit2.Text<>'') then
begin
qd:=StrToFloat(Edit1.Text)*1000+StrToFloat(Edit2.Text);
if (Edit3.Text<>'')and(Edit4.Text<>'') then
begin
zd:=StrToFloat(Edit3.Text)*1000+StrToFloat(Edit4.Text);
if zd<qd then
begin
MessageDlg('错误!起点大于终点!',mtWarning,[mbOK],0);
Edit1.Text:='';
Edit2.Text:='';
Edit3.Text:='';
Edit4.Text:='';
end else
begin
qc:=zd-qd;
Edit5.Text:=FloatToStr(qc);
end;
end;
end;
end;

三个变量为全局变量Extended,四个Edit的OnExit都是这个,有时计算出的结果是对的,有时不对

[此贴子已经被作者于2007-10-24 23:05:58编辑过]

2007-10-24 22:40
sky_yang_sky
Rank: 3Rank: 3
等 级:论坛游民
威 望:8
帖 子:481
专家分:16
注 册:2007-5-30
收藏
得分:0 

由於你用的是extended類型,所以會出現這種情況,如果你不想改變變量類型又想讓它以你想要的位數出現,那你在轉化為字符型之前進行一下這個函數的轉化
qc:=round(qc*10)/10;
Edit5.Text:=FloatToStr(qc);
應該行了

[此贴子已经被作者于2007-10-25 8:53:03编辑过]


你微笑的面對整個世界,整個世界也將會微笑的面對你。
2007-10-25 08:52
缘吇弹
Rank: 16Rank: 16Rank: 16Rank: 16
来 自:地球
等 级:版主
威 望:43
帖 子:3038
专家分:27
注 册:2007-7-2
收藏
得分:0 
LS办法可行.

Repeat  Life=Study;Until (death);
2007-10-25 21:50
honvin
Rank: 1
等 级:新手上路
帖 子:13
专家分:0
注 册:2007-10-22
收藏
得分:0 

谢谢大大,这个办法是可行,但要改的地方太多了,不过也只能这样了,改吧.............

2007-10-25 23:27
xiaofkg
Rank: 1
等 级:新手上路
威 望:1
帖 子:77
专家分:0
注 册:2007-9-17
收藏
得分:0 

我想可以用format函数格式化一下

2007-11-02 20:23
快速回复:[求助]数据计算和类型的小问题,困惑
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.028984 second(s), 7 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved