ISSN 1004-6941 CN51-1412/TB| 中国核心期刊(遴选)数据库源期刊| 万方数据-数字化期刊源期刊| 中国学术期刊(光盘版)入选期刊| 中国学术期刊全文数据库全文收录期刊

2021年第10期

Excel中 VBA函数消除浮点误差的数据修约方法

国家标准学科分类代码:410.55 | 中图分类号:TB9 | 文献标识码:A | DOI:10.15988/j.cnki.1004-6941.2021.10.020
分享

ExcelVBA函数消除浮点误差的数据修约方法 

李祥瑞 

(安徽省计量科学研究院,安徽 合肥 230051) 

摘 要:Excel工作表的函数计算使用极大的提高了工作效率,但是数据处理中需要的四舍六入修约规则较难实现,有文章介绍通过函数或 VBA功能实现,却比较繁杂且无法消除浮点误差,本文介绍了 VBA中一种简单的消除浮点误差的数据修约方法。 

关键词:VBA;修约方法;浮点误差;自定义函数

联系我们Contact Us

名称:计量与测试技术杂志社 地址:成都市双流区物联一路255号 电话:028-84443962 邮编:610021 邮箱:jlcsjs@vip.163.com

微信公众号

蜀ICP备16016517号-1    Copyright © 2019 Metrology & Measurement Technique All Rights Reserved