广州菱控|欧姆龙(OMRON)
当前位置:首页 >> 技术支持 >> 关于浮点运算出错问题
关于浮点运算出错问题   时间:2015/4/11 14:03:00
LD P_On
*F(456) D10 +100 D20
FIX(450) D20 D30
BCD(024) D30 D40
要求D10的浮点数(譬如4.20)转换成420(BCD),但实际结果是419.
但D10输入浮点数4.19,转换结果也是419.
同理4.18转换成417,4.17也是转换成417.
不知问题出在哪里?请问高手们遇到此类浮点数转换时你们是如何处理的,有什么高招不发生转换误差?
本人打电话问4008204535,工作人员说这种误差是正常的,但我的工程中是不允许的。
其实也就是带有两位小数的数,扩大100倍,转换成BCD数,但居然达不到想要的结果。

附件: 无标题.cxp
相关问题
相关下载