京东大规模存储持续研发.pdf

大规模存储系统的持续研发 刘海锋 Overview  京东文件系统 - JFS  分布式缓存与高速KV服务 - Jimdb Jingdong File System (JFS)  愿景  The unified datacenter storage infrastructure (2013/7 – now)  小步快跑，分期开展  海量小文件  对象存储  块存储  新图片系统  元数据表结构存储 (wip)  Hadoop集成 (wip) 海量小文件 –需求与挑战  商品订单  365 * 数亿 * ~10KB  商品图片  几十亿 * (20 ~200KB)  库房记录  365 * 十亿 * (KB ~ MB)  各种方案  关系数据库  Pains – 难以扩容、定期删除  开源存储系统  Pains – 选型、维护、定制 自主研发  规模推动自主研发  拿来主义  开源定制  自研  灵活可控、长期技术收益  挑战  开发周期，稳定性，长期性  小投入大产出  策略  紧扣业务需求，高度定制，分期开展  独辟蹊径，专注 JFS –海量小文件  需求驱动  在线数据多为小文件  系统特性 jfs/t5/8/10240/10000/A5B8FC33 -Y  系统命名 Java client  强一致复制 coordinator coordinator coordinator  透明压缩 monitor datanode checker replica group 复制协议  Paxos算法变体  固定成员角色 – one primary + 2 followers  不做majority-based leader election  Full-quorum replication  二元状态机 - ReplGroupReady or ReplGroupSplit follower client primary follower 存储引擎 Follower A