论文部分内容阅读
在DCS中,主控单元模块的数据存储资源有限,为了节省数据的存储空间,开发算法块时尽可能使用低精度的数据类型.由于浮点运算超过精度能表示的范围就需要近似或舍入,这样就会产生误差,对于一些涉及到复杂运算的算法,数据精度不足有时会造成算法计算错误.所以在算法测试过程中,应包含数据精度方面的测试.
DCS中浮点数精度对控制算法的影响
【摘 要】
：
在DCS中,主控单元模块的数据存储资源有限,为了节省数据的存储空间,开发算法块时尽可能使用低精度的数据类型.由于浮点运算超过精度能表示的范围就需要近似或舍入,这样就会产
【机 构】
：
北京和利时系统工程有限公司
【出 处】
：
工业控制计算机
【发表日期】
：
2014年1期
其他文献
根据500kV 沙昌线系统的现场调试工作,将其实测数据用计算机进行了计算分析,对500kV 线路电抗器中性点过电压保护方式、参数选择提出了建议。