84 12 ››

标签: 精度

标题	版块	作者	回复/查看	最后发表
VSFlexGrid网格中的数据转换成双精度数据类型显示类型不匹配	『 VB6论坛』	vbcaonia 2023-10-25	3 / 1256	2023-10-27 14:23 by cwa9958
VC++6.0 非常诡异的数值精度问题	『 VC++/MFC 』	md00000000 2022-8-13	3 / 1594	2022-9-3 19:53 by mature119
请教，4字节双精度数据如何转换为10进制双精度数据	『 VB.NET论坛』	yangmz 2022-6-10	0 / 738	2022-6-10 15:44 by yangmz
imgCenter.Canvas.Arc 大半径精度问题，弧线和两边直线不能刚好相交	『 Delphi论坛』	zhoujiazhen 2021-12-16	0 / 1007	2021-12-16 11:04 by zhoujiazhen
想问一个问题，关于浮点数精度的，出现了一个奇怪的情况	『 C语言论坛』	t_dcy 2019-12-16	6 / 1484	2019-12-17 17:00 by 鱼儿小仙
计算浮点数相处的余，萌新求解	『 C语言论坛』	温柔 2019-10-28	5 / 2005	2019-10-30 09:43 by rjsp
java数据精度是怎么计算的	『 JAVA论坛』	dzy123 2019-3-29	1 / 1518	2019-3-29 11:20 by rind
关于double精度的问题	『 C语言论坛』	木胖子 2018-12-28	3 / 1066	2018-12-28 15:15 by rjsp
求圆周率中的精度问题，请大家帮我看看	『 C语言论坛』	帝师 2018-12-6	2 / 2156	2018-12-6 17:49 by 帝师
没有学习单双精度情况下，求x的值是y的64%	『 C语言论坛』	puppetry 2018-6-28	4 / 1806	2018-7-2 09:58 by puppetry
二、选择控制语句编程（20分）已知函数y = f(x)，编程实现输入一个x值，输出y值，其中x和y均为双精度实数。 5	『 C语言论坛』	小绾儿 2018-5-28	0 / 2759	2018-5-28 10:25 by 小绾儿
float 精度2^23和范围2^128的关系，2^23~2^128之间的数不能准确表示吗？	『 C语言论坛』	baliying 2018-4-29	1 / 931	2018-4-29 21:33 by 九转星河
再次请教精度问题（继4月18日《请教筛选平方数》之续） 1 2	『 VFP论坛』	fdxxhjc 2018-4-20	12 / 2511	2018-4-22 08:39 by schtg
前辈帮忙看下这个字符转双精度数错在了哪里？有点急！！	『 VC++/MFC 』	瑞锋online 2017-12-28	2 / 2112	2018-2-7 16:33 by rjsp
前辈帮忙看下这个字符转化为双精度数哪里错了？有点急！	『 C++教室』	瑞锋online 2017-12-28	2 / 1592	2017-12-28 15:56 by rjsp
请教各位关于一个转换说明中的精度问题	『 C语言论坛』	蜉鲸鹤 2017-11-4	1 / 609	2017-11-4 16:36 by 吹水佬
用弦截法求f(x)=x^3+2x^2+10x-20=0的根，精度要求10^-6，并绘出迭代次数。（x1=1,x2=2）	『 VC++/MFC 』	waili0713 2017-5-17	1 / 3944	2017-5-17 20:39 by waili0713
答案对了，但是提交时出错，是不是精度？	『 C语言论坛』	dydsdyds 2010-11-22	9 / 767	2010-11-27 14:21 by dydsdyds
2的N次幂，精度不够	『 C语言论坛』	dydsdyds 2010-11-22	8 / 1358	2010-11-25 17:23 by fanghao520
请教各位老师关于数据精度的问题	『 VB6论坛』	雨初飞雪 2010-11-24	0 / 421	2010-11-24 11:03 by 雨初飞雪
用scanf输入float型的变量的时候精度缺失的现象	『 C语言论坛』	ming_fox 2010-8-14	7 / 3013	2010-8-15 02:19 by 康冬亮
编写一个程序,实现一个整数,长整数,浮点数,双精度数除2的计算,要求所有类型的数除2只使用一个函数	『 C语言论坛』	qq8801103 2010-3-14	8 / 836	2010-3-21 19:37 by qq8801103
请教MS-SQL2000的时间精度设置问题	『 SQL Server论坛』	aslxt 2009-12-27	2 / 950	2010-2-22 18:02 by aslxt
高手请进阶乘的精度值问题	『 C语言论坛』	转身 2010-1-31	7 / 818	2010-2-1 10:17 by 转身
cos(x)的值如何确定为e-6的精度？	『 C语言论坛』	willstier 2009-11-24	8 / 2184	2009-11-25 18:32 by willstier
怎么求双精度大数的各个位数？	『 C语言论坛』	fgh2010 2009-9-23	2 / 620	2009-9-23 14:28 by UserYuH
谁能举个例子,说明一下double与currency的精度区别,还是不太明白?	『 VB6论坛』	ggyy66 2009-8-18	2 / 748	2009-8-19 11:21 by ggyy66
两个精度数比较	『 ASP技术论坛』	linjirongll 2009-7-27	6 / 567	2009-7-28 07:30 by 水濂山人
浮点型数据float的精度有7位有效数字，是怎么推倒出来的	『 C语言论坛』	luruinet 2008-11-19	1 / 1192	2008-11-21 13:30 by studentm
[求助] 累加的计算精度<le-6 是什么意思?怎么办?	『 C++教室』	dong09666 2008-11-16	3 / 1450	2008-11-20 22:53 by dong09666
SetTimer的精度	『 VC++/MFC 』	vfdff 2008-10-7	2 / 7153	2008-10-8 00:05 by vfdff
Matlab 里的数值变量精度是多少？	『 Matlab 』	nbote 2008-9-1	1 / 1630	2008-9-2 21:44 by goodlucklj
用二进制形式表示变量值	『 C语言论坛』	lingboshiwo 2008-7-2	2 / 1852	2008-7-2 16:50 by flyue
如何提高计算精度？	『 VB6论坛』	hyhhd 2008-6-29	5 / 1049	2008-6-29 12:48 by multiple1902
求PI的值的问题	『 C语言论坛』	sct1981 2008-6-5	3 / 1571	2008-6-5 20:50 by sct1981
哪位高手帮我看看这道循环结构题~谢谢!	『 C语言论坛』	kuzalid 2008-5-18	6 / 985	2008-5-18 13:15 by kuzalid
求助：关于精度问题	『 JAVA论坛』	Alistair001 2008-4-9	2 / 726	2008-4-10 08:12 by Ethip
[求助]在32位的汇编中,谁会使用REAL8(8字节双精度实数)数据类型	『汇编论坛』	蓝色神话 2007-11-9	0 / 947	2007-11-9 12:39 by 蓝色神话
for函数和while函数的问题 1 2	『新人交流区』	zylwzg 2007-11-4	11 / 1296	2007-11-4 20:24 by 酷儿
投票显示的时候百分比精度	『 ASP.NET技术论坛』	s6gy 2007-10-24	1 / 930	2007-10-24 18:44 by guoxhvip
[求助]求该三角形的内切圆	『新人交流区』	zhouxiang 2007-10-16	7 / 876	2007-10-17 18:54 by foreverhx
[求助]怎样确定一个精度	『 C语言论坛』	原汁原味 2007-10-12	4 / 835	2007-10-12 13:07 by 永夜的极光
根据公式求e的值已知e=1+1/1!+1/2!+1/3!+1/4!...精度要求为0.0000001(用 ++语言编	『 VC++/MFC 』	yjrl 2007-9-17	8 / 1505	2007-9-18 23:16 by ydq1
如何解决秒表精度?	『 JAVA论坛』	li2131538 2007-8-3	0 / 739	2007-8-3 00:59 by li2131538
有关精度的初级问题.	『 C++教室』	blueness21 2007-7-28	2 / 525	2007-7-29 09:44 by blueness21
如何输出double型数据？	『 C# 论坛』	revenger 2007-7-26	3 / 4048	2007-7-28 21:59 by revenger
关于精度问题	『 C++教室』	llmagicccc 2006-6-3	3 / 631	2007-7-28 19:11 by blueness21
双精度怎样转换整形？	『 C# 论坛』	一线两电脑 2007-7-22	5 / 3717	2007-7-23 10:34 by 一线两电脑
请教一个long double类型问题	『 C语言论坛』	hyq106 2007-7-10	1 / 865	2007-7-10 09:09 by yu_hua
如何用matlab对北斗一代定位精度做仿真？？源程序	『 Matlab 』	lele122681 2007-6-13	0 / 892	2007-6-13 11:16 by lele122681

84 12 ››