新闻中心

EEPW首页 > 测试测量 > 设计应用 > labview中要注意数据的表示格式

labview中要注意数据的表示格式

作者: 时间:2017-01-09 来源:网络 收藏

在这个小程序中,我发现 乘的输出总是不正确。总是比与其的要小很多。

开始并没注意到是数据格式的问题。

本文引用地址:https://www.eepw.com.cn/article/201701/337125.htm

那我们右键输出接点会弹出这样的对话框

表示法显示的是U16 而U16最大值为65536.所以 溢出了。

而U16是因为匹配到源数据类型才是U16的。如果前面的数据格式为U32则 这个输出也为U32。

我们不想修改前面的数据格式,因为U16对于前面的足够了,大了浪费内存。

那我们只要修改该输出的数据格式就好了。改成U32。

问题解决。



评论


技术专区

关闭
站长统计
×

TI直播中...
汽车电气化背景下的TI音频解决方案和技术线上研讨会直播中,早鸟报名礼、myTI 专属礼、活动参与礼等着您(已经报名用户可以凭报名邮箱直接登录),速入>>