学习型 ASP/PHP/ASP.NET 主机 30元/年全能 ASP/PHP/ASP.NET 主机,支持月付专业 MSSQL 数据库空间,支持月付专业 MySQL 数据库空间,支持月付
轻松建立自己的群组,招兵买马   
 11 12
发新话题
打印

库函数的BUG???

你们老师真强……
浮点数是一个二进制规范,所以取舍都是在二进制层面的,和十进制的数字会有些些的不同。
比如0.1这个数字在十进制上是个精确数,但是在二进制里面,这是个循环小数,不可能取得精确值。所以不同精度转换下,可能会造成误差。LZ的例子应该也是同样的原因。
专心编程………
飞燕算法初级群:3996098
我的Blog

TOP

 11 12
发新话题