实数求余 - 编程论坛

#2

freish2009-09-27 12:13

计算机是二进制存储方法，没办法确切的表示3.4呗，只能用最接近3.4的计算机能表示的一个数来表示了

#3

czg1236987412009-09-27 12:40

回复 2楼 freish

既然这样为什么我使用double类型会计算出精确呢！书本上的那条公式是不是计算的不精确啊？？？
后来我自己又验证了一下：后来我将它强转型后对比：
<%
double x=123.4;
double y=10;
double z=x%y;
out.print("使用double型—— 123.4%10 = "+z);
%>
<p>
<%
double k=123.4;
double l=10;
double a=k%l;
float n=(float)a;
out.print("使用float型—— 123.4%10 = "+n);
%>
结果分别是：
使用double型—— 123.4%10 = 3.4000000000000057
这是有必要将他们这么强转型吗？？

#4

柠檬可乐2009-09-27 22:29

a-int(a/b)*b的运算过程是这样的：先求a/b，再将其结果强制转换成int类型，再按正常计算其他的。
123.4%10的计算：123.4/10=12.34，转换成int型得到12，123.4-12×10=3.4

在你的程序代码里，并不是这样计算的，只是简单的求余。至于结果，应该是溢出的问题了