分享

iOS double类型不稳定的解决办法

 没原创_去搜索 2015-11-03

目前制作的app出现了,上述图片的bug,分享下解决心得,及要注意的地方!

出现问题的代码:

之后改进的代码:







=====================================




float double的内存表示及比较大小的方法

参考:

float和double类型的内存分布和比较方法收藏

Comparing floating point numbers  

总结几点:

0. float占4byte,精度是6~7位;double占8byte,精度是15~16位。 

1. C/C++的浮点数据类型有float和double两种。它们在内存中是以科学计数法的结果来存储的。 

类型float大小为4字节,即32位,内存中的存储方式如下: 


 符号位(1 bit) 

指数(8 bit) 

尾数(23 bit) 


类型double大小为8字节,即64位,内存布局如下: 


符号位(1 bit) 

指数(11 bit) 

尾数(52 bit) 
  
符号位决定浮点数的正负,0正1负。 
指数和尾数均从浮点数的二进制科学计数形式中获取。 

2. 关于比较大小

一般情况下用一个absolute epsilon value来比较(if (fabs(result - expectedResult) < 0.00001))就够了。但是在某些对数字精度有特殊要求的domain,比如graphic,需要用更合理的方法。具体,参见引用文献2.

Comparing for equality

Comparing with epsilon – absolute error

Comparing with epsilon – relative error









    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多