分享

Memcached笔记

 李副营长 2014-08-20
     为了将N个前端数据同步,通过Memcached完成数据打通,但带来了一些新问题:
  • 使用iBatis整合了Memcached,iBatis针对每台server生成了唯一标识,导致同一份数据sql会产生不同的key,造成重复缓存。——通过重写iBatis部分原码,终止了唯一标识的生成,同一个SQL产生同一个Key,同时对生成key做hash,控制长度,使得数据统一在Memcached。
  • 为了迎合iBatis的架构,通过CacheModel模式,对缓存数据分组管理。最初通过Map实现CacheModel,就是简单的Key对应最终的Object。为了后台操作数据时,前台能及时响应,以CacheModel为基准点。后台操作数据时,做Flush,清空对应的CacheModel,可以及时同步数据。但,由于前后台Domain对象可能不一致,调用CacheModel(Map)反序列化时,发生ClassNotFonudException(CNF)。——将CacheModel的Map实现改为Set,CacheModel仅存需要Flush掉的key,Object按原有方式缓存。
  • 以前一直用EhCache,也很少会把List<List>这样的重量级对象放进缓存里。即便如此,只要EhCache没有抛异常,我们恐怕也无感知。这次改用Memcached,没有注意到缓存List过大,导致“Cannot cache data larger than 1MB memcached”,即缓存对象体积不能超过1MB——使用Memcached数据压缩,优化SQL,可以暂时维持。

说了这么多,简要总结如下:
  • Memcached的Key,要杜绝使用空格,且长度控制在250个字符。
  • Memcached的Value,要控制体积,必须小于1MB,必要时进行使用压缩。
  • 失效时间,0为永久有效,最大值不得超过30天(2592000s),否则重新计算可能缓存只有1秒
  • Memcached仅支持LRU算法,完全适用你的需要。
  • 尽量不要将List这种重体积对象扔到Memcached中,传输、存储都会产生瓶颈。
  • 使用一致性哈希算法实现,提高多个Memcacehd Server利用率。




关于使用XMemcached实现时,参考如下实现:
Java代码  收藏代码
  1. private MemcachedClientBuilder createMemcachedClientBuilder(  
  2.         Properties properties) {  
  3.     String addresses = properties.getProperty(ADDRESSES).trim();  
  4.   
  5.     if (logger.isInfoEnabled()) {  
  6.         logger.info("Configure Properties:[addresses = " + addresses + "]");  
  7.     }  
  8.     MemcachedClientBuilder builder = new XMemcachedClientBuilder(  
  9.             AddrUtil.getAddresses(addresses));  
  10.   
  11.     // 使用二进制文件  
  12.     builder.setCommandFactory(new BinaryCommandFactory());  
  13.     // 使用一致性哈希算法(Consistent Hash Strategy)  
  14.     builder.setSessionLocator(new KetamaMemcachedSessionLocator());  
  15.     // 使用序列化传输编码  
  16.     builder.setTranscoder(new SerializingTranscoder());  
  17.     // 进行数据压缩,大于1KB时进行压缩  
  18.     builder.getTranscoder().setCompressionThreshold(1024);  
  19.   
  20.     return builder;  
  21. }  

主要有以下几点参考:
  • 使用二进制文件模式
  • 使用一致性哈希算法
  • 使用序列化编码
  • 对数据进行压缩


关于SET&ADD
  • SET&ADD都属于更新操作,都要先申请内存
  • SET,会擦除这个键所对应的内存,不管原先是否有内容
  • ADD,会先查看这个键对应的内存是否有内容,如果有,则等待;若没有,则获取锁,并更新内存。



缓存命中率,通常认为:缓存命中率低于95%的设计都是不合理的,存在设计缺陷的。




这是我在线上服务器,经过优化后得到的最好成绩!

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多