分享

关于Matlab 和 C的取整操作 来自 木头弯弯的小窝

 dsplog 2014-11-18

 

 最近的工作涉及到Matlab 和C,对比发现,在数字处理方面存在一些不同,Golden 比较时问题多多啊

  C Matlab
ceil 向正无穷 向正无穷
fix 向0
round 向最近整数
floor 向负无穷 向负无穷
四舍五入 floor(A+0.5) floor(A+0.5)
整数除法 truncate直接丢,向0方向取整 double型
int转换 truncate直接丢,向0方向取整 int8/16等,向最近整数,round
     

 

 

floor(0.5+0.5)=1   floor(-0.5+0.5)=0

Matlab:

round(0.5)=1 round(-0.5)=-1

int8(0.5) = 1   int8(-0.5)=-1

C:

int(2.9) = 2    int(-2.9) = -2

float d=5.0/2.0 = 2.5
float e=5/2=2.0
float f=(float)5/2=2.5

 

关于除法:

整数相除和浮点数相除有所不同。
浮点数相除得到浮点数,整数相除得到整数,混合除得到浮点数。C 语言规定,整数相除产生的小数部分一律被抛弃,这就是所谓的截断(truncation)。
C99 之前,正整数和负整数相除,如果产生小数部分,则相除的结果是不确定的。
例如:7/-4 的结果可能是 -2,也可能是 -1。C99 规定,正整数和负整数相除,产生的小数部分一律被抛弃。
运算符的优先级来算的.优先级float-> double <-long <-unsigned <-int <-char,short.

http:///html/1/2/0602/118.htm

 c整数除整数,即使赋给float,也要先取整,取整方式是直接将小数部分丢掉,这个做法的结果就是向0方向取整,也相当于先用绝对值做除法,丢掉余数,加上符号。

 

关于移位操作:

C语言移位直接移动bit位  
Matlab bitshift 先做除法,再truncate,即直接把小数部分丢掉,和C语言的整数除法操作相同

 关于 模操作

Matlab 模的结果都是正值,[0,N-1], C的结果[-N+1,N-1]

C语言  -1%4 = -1  -5%4 = -1

Matlab -1%4 = 3   -5%4 = 3

 

存储本身就会损失精度:

float a=2.1 其实存储的只是2.0999999, a*100/10 = 20,

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多