<博图> 浮点数(real)相加时结果不精确的解决方法
2023-12-14 12:34:12
问题截图:
每按下一次按钮,浮点数1 加0.1,结果放在浮点数1中;在加到第8次时会多出小数点位数。
解决方法:
对要进行相加的浮点数进行转换,如下 :
(注:如果图片模糊保存到相册看就清楚了)
?
效果:
描述:
?先将浮点数乘100.0 ,然后结果取整 类型由real转为int,将取整后结果进行转换 类型由int转为real,最后将转换结果除100.0,完成转换。
注:相关指令
乘法指令:MUL? ,取整指令:ROUND? ,转换值指令:CONV(CONVERT) ,除法指令:DIV。
文章来源:https://blog.csdn.net/weixin_67913271/article/details/134991472
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。 如若内容造成侵权/违法违规/事实不符,请联系我的编程经验分享网邮箱:veading@qq.com进行投诉反馈,一经查实,立即删除!
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。 如若内容造成侵权/违法违规/事实不符,请联系我的编程经验分享网邮箱:veading@qq.com进行投诉反馈,一经查实,立即删除!