学习LabVIEW(十)——关于Matlab的eps函数(十三)

非常重要的一点,上面这些蓝色的数值常量,需要手工指定其具体的整数类型。在常量的蓝色方框内点击右键,在弹出的菜单中选择“表示法->UINT64”显式指定数据的具体整数类型,否则运算会出错,无法得到期望的结果。


这正是我们需要的数值。15位于8和16的中间,8是2的3次方,16是2的4次方,所以15的指数部分是3。现在将“计算机ɛ”乘以2的三次方(利用“按2的幂缩放”节点),就得到了eps(15)的值:

我们将计算得到的数值与Matlab的eps(15)进行了比较。“数值5”控件显示计算的结果为1.77636E-15;“数值6”控件显示LabVIEW计算的结果与Matlab计算的结果的差,输出为0,说明和Matlab是一致的。利用这么简单的G语言框图,我们就实现了eps的计算。
评论