一组特殊的数值
(创建时间:2011年05月19日 02:33:00)
曹华群 : 

Dim i As Double
Dim j As Double
Dim k As Double
i = 12191.85
j = 19594.81
k = 31786.66
Debug.Print i + j - k

出来的结果:3.63797880709171E-12

任务记录:
2011/9/6 12:48:09 jangogo@admin 接手处理
2011/9/6 12:48:11 jangogo@admin 关闭本CASE
文档中心bug
可上传附件
选择
同时转发此条
回复
1楼
Jangogo: 

VB Double  类型的数据的小数点精度问题,这个问题只能通过运算前进行对运算的数据进行小数点位数进行控制(如最多支持10位小数)来解决。