注册 登录
编程论坛 SQL Server论坛

数据类型的问题

wangfuli 发布于 2007-02-27 19:59, 457 次点击
我在server2000中有一个属性列为real,我将这个属性得到总和,比如说得到2.555,然后在.net中声明一个double为2.555,将这两个2.555比较大小,结果double的2.555比real的2.555要大,难道server2000的real和double不一样吗?

还有两个数比较:一个为single,一个为double,都是2.555,比较后,结果single的2.555大于double的2.555;

如果将double的2.555先转换成single后,在和single的2.555比较,就相等了,请问为什么了?

谢谢
3 回复
#2
Kendy1234562007-02-28 09:17

怎么两边贴啊你。。。

所有编程语言都存在这个精度问题的

#3
bygg2007-02-28 12:45

不是都说了,一个单精度一个双精度吗?

#4
cyyu_ryh2007-02-28 15:28
real只有4位
那怎么比哦。
1