Excel中 VBA函数消除浮点误差的数据修约方法
Excel中 VBA函数消除浮点误差的数据修约方法
李祥瑞
(安徽省计量科学研究院,安徽 合肥 230051)
摘 要:Excel工作表的函数计算使用极大的提高了工作效率,但是数据处理中需要的"四舍六入"修约规则较难实现,有文章介绍通过函数或 VBA功能实现,却比较繁杂且无法消除浮点误差,本文介绍了 VBA中一种简单的消除浮点误差的数据修约方法。
关键词:VBA;修约方法;浮点误差;自定义函数
上一篇:一种基于螺纹点云的缺陷提取方法