要得到1位或2位精确小数的话,整数不能高于 32767

所以最多只能正确处理0~32767的整数,

要得到3位 精确 小数的话,整数不能高于16383

要得到4位 精确 小数,整数不能高于2047

要得到5位 精确 小数,整数不能高于127

要得到6位 精确 小数,整数不能高于15

要得到7位 精确 小数,整数不能高于0

再select一下读出来后发现,它显示的是:

也就是说,有10数位与以上的话就会出现不准确的情况。

要得到2位小数则 整数部分 最多 不能超过32767。

要得到3位小数的话,整数不能高于16383