单片机浮点数的实用快速降法 作者: 时间:2012-03-08 来源:网络 加入技术交流群 扫码加入和技术大咖面对面交流海量资料库查询 收藏 可见只需要在X/YH的基础上再乘以一个修正因子(YH-YL)/YH,就可以得到X/Y的一次校准值。不难证明这个值已经达到了24位的精度要求。事实上,相对误差满足: 上一页 1 2 3 下一页
评论