实务中碰到的问题,计算机计算误差

韩志　发表于：2008-01-09 12:58:30 　

请将下列代码复制到VBE编辑器中，运行SUB过程，计算结果（9.58）与手工计算结果（9.59）有误差。

我用这个自定义函数计算个人所得税一两年了，公司有几百名员工。从来没出现过计算错误，但本月出现这个误差让我觉得很费解，目前只发现在计算这一组数字的时候会出问题。

Function gs(t)
d = t - 1600
If d < 0 Then
gs1 = 0
ElseIf d <= 500 Then
gs1 = d * 0.05
ElseIf d <= 2000 Then
gs1 = d * 0.1 - 25
ElseIf d <= 5000 Then
gs1 = d * 0.15 - 125
ElseIf d <= 20000 Then
gs1 = d * 0.2 - 375
ElseIf d <= 40000 Then
gs1 = d * 0.25 - 1375
ElseIf d <= 60000 Then
gs1 = d * 0.3 - 3375
End If
Debug.Print gs1 '(经测试在计算本例时，gs1= 9.58499999999999）
gs = VBA.Round(gs1, 2)
End Function

Sub dd()
t = 2091.7
tt = 300
ttt = gs(t - tt)
MsgBox ttt 'ttt为什么是9.58 手工计算的结果是9.59
End Sub

Top

探花发表于：2008-01-09 13:52:42

你这个问题，是Round函数使用时的典型例子，这个函数有些特别之外要注意，发一下我收集的别人总结的经验你看一下

Round “四舍六入五成双”法则。

四舍六入五考虑，即当尾数≤4时舍去，尾数为6时进位。当尾数4舍为5时，则应是末位数是奇数还是偶数，5前为偶数应将5舍去，5前为奇数应将5进位。

这一法则的具体运用如下：

a. 将28.175和28.165处理成4位有效数字，则分别为28.18和28.16。

b. 若被舍弃的第一位数字大于5，则其前一位数字加1，例如28.2645处理成3为有效数字时，其被舍去的第一位数字为6，大于5，则有效数字应为28.3。

c. 若被舍其的第一位数字等于5，而其后数字全部为零时，则是被保留末位数字为奇数或偶数（零视为偶），而定进或舍，末位数是奇数时进1，末位数为偶数时还进1，例如28.350、28.250、28.050处理成3位有效数字时，分别为28.4、28.2、28.0。

d. 若被舍弃的第一位数字为5，而其后的数字并非全部为零时，则进1，例如28.2501，只取3位有效数字时，成为28.3。

e. 若被舍弃的数字包括几位数字时，不得对该数字进行连续修约，而应根据以上各条作一次处理。如2.154546 ，只取3位有效数字时，应为2.15,二不得按下法连续修约为2.16：

2.154546→2.15455→2.1546→2.155→2.16

Top

suve 发表于：2008-01-09 22:42:18

这个法则解释很好,但如果我用这个法则,别处用单纯4舍5入法则,算出来的数字就会有出入,比如到银行去拿钱就会有几分出入,怎么办?什么函数是强制4舍5入?能不能列出此类函数一览?

Top

Victor Duane 发表于：2008-01-09 23:04:53

关于数值如何修约,可以参考国标<数值修约规则>GB 8170-87

关于ROUND的问题可以看ACCESS的帮助

需要如何处理数值,可以找网上的资源,也可以联系我

Top

总记录：3篇页次：1/1 9 1 :

Access交流中心

实务中碰到的问题,计算机计算误差