新闻中心

EEPW首页 > 嵌入式系统 > 设计应用 > c语言数据运算超范围要注意

c语言数据运算超范围要注意

作者:时间:2012-08-31来源:网络收藏

注意:计算式,能不写成一大行的就分开写,只要保证了精度就可以了!!写一大行有时候反而影响精度!

例如:unsigned long int X;

double AD;

AD=AD/50.0;

X=AD*5000.0000/1023.00;

最好先局部计算一下,X=AD*100/1023.00;

1.浮点类型的不能做“模”运算。 例如:float a=1234.56; a=a%10; 这是错误的。只有整形才能做“模”int a=12345; a=a%10;

2.如果你想做普通的四则运算。那肯定是浮点数的运算。整形的除法不是我们平时的除法,它是舍去了余数,即小数部分。例如:int a=1; a=a/10; 结果会得到0;因为只有商被保留下来。正确的是: float a=1; a=a/10; 得到结果是:0.1

3.四则运算中常量之间做除法是特别注意:要加小数部分,不管它有没有小数部分;例如:float a; a=12/36; 这是错误的,只能得到0。正确的应该是:float a; a=12.0/36.0; 加上小数点就对了,得到结果 0.3 。不过,赋值运算符右边只要有一个变量或常量是浮点型就可以了。即:a=12.0/36; 也得到a=0.3;因为C语言能自动想高一级转换类型。但是注意:int 与浮点“常量”做运算并不能把他的范围扩大,除非计算式里有浮点“变量”例如:int a=5,llong int b; b=a*3.0+65536;是错误的,第二次加法还是会(int )。平时我们应该养成浮点数加小数点的习惯。同时注意:常量也分数据类型的。 “12”代表是非浮点型(整型int或字符型char)“12.0”则是浮点型(float)

4. 对于不同类型的变量做计算时,要考虑计算的每一步的值否超过了变量类型的范围。注意:是每一步的计算结果,不单是最终结果。否则会出错,带来不必要的麻烦。 例如 unsigned int a,b=7; a=b+65536;得到的结果不会是65543,因为它已经超出了a的最大值 65536; 又如 a=b-65536;也不会得到负数. a=b*65536;也超出范围。a=b/65536.0;也不会得到小数。对于多次计算更要特别注意,每一部分是否有可能超出范围,对超出范围的做相应处理。例如:unsinged int a,b=123; a=b*5000.0/1000000.0; 这样得到的结果不会是你想要的,因为第一次乘法已经超出了范围,第二次做除法时要使用的上次结果已经是个错误的值了。 可见:四则运算要注意三点。1。数据类型。2.。精度问题 。 3。计算问题。 特别是变量与常量的四则运算加倍注意是否

万能遥控器相关文章:万能遥控器代码


c语言相关文章:c语言教程




评论


相关推荐

技术专区

关闭