好多朋友可能会遇到下面这种计算的时候出现错误,明明变量已经定义为双精度了,但还是提示溢出。
ZjZXF_B = (5000 – 1000) * 9 / 1000 * 10000
其实主要原因是vb6默认的数值常数是 Integer 类型的,数字范围在 -32767 ~ +32767 之间,所以运算结果超过这个范围的,就会提示溢出,解决办法是给常数加上类型限定符:
ZjZXF_B = (5000 – 1000) * 9# / 1000# * 10000#
就可以解决了,如下图
Views: 31