<博图> 浮点数(real)相加时结果不精确的解决方法

2023-12-14 12:34:12

问题截图:

每按下一次按钮,浮点数1 加0.1,结果放在浮点数1中;在加到第8次时会多出小数点位数。

解决方法:

对要进行相加的浮点数进行转换,如下 :

(注:如果图片模糊保存到相册看就清楚了)

?

效果:

描述:

?先将浮点数乘100.0 ,然后结果取整 类型由real转为int,将取整后结果进行转换 类型由int转为real,最后将转换结果除100.0,完成转换。

注:相关指令

乘法指令:MUL? ,取整指令:ROUND? ,转换值指令:CONV(CONVERT) ,除法指令:DIV。

文章来源:https://blog.csdn.net/weixin_67913271/article/details/134991472
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。