《Redis在新浪微博中的应用.docxVIP

Redis 在新浪微博中的应用 内容目录：Redis简介Redis基本原理新浪Redis使用历程Redis应用场景遇到的问题及解决办法经验总结Redis 在新浪微博中的应用Redis简介1. 支持5种数据结构支持strings, hashes, lists, sets, sorted setsstring是很好的存储方式，用来做计数存储。sets用于建立索引库非常棒；2. K-V 存储 vs K-V 缓存新浪微博目前使用的98%都是持久化的应用，2%的是缓存，用到了600+服务器Redis中持久化的应用和非持久化的方式不会差别很大：非持久化的为8-9万tps，那么持久化在7-8万tps左右；当使用持久化时，需要考虑到持久化和写性能的配比，也就是要考虑redis使用的内存大小和硬盘写的速率的比例计算；3. 社区活跃Redis目前有3万多行代码, 代码写的精简，有很多巧妙的实现，作者有技术洁癖Redis的社区活跃度很高，这是衡量开源软件质量的重要指标，开源软件的初期一般都没有商业技术服务支持，如果没有活跃社区做支撑，一旦发生问题都无处求救；Redis基本原理redis持久化(aof) append online file：写log(aof), 到一定程度再和内存合并. 追加再追加, 顺序写磁盘, 对性能影响非常小1. 单实例单进程Redis使用的是单进程，所以在配置时，一个实例只会用到一个CPU；在配置时，如果需要让CPU使用率最大化，可以配置Redis实例数对应CPU数, Redis实例数对应端口数(8核Cpu, 8个实例, 8个端口), 以提高并发:单机测试时, 单条数据在200字节, 测试的结果为8~9万tps；2. Replication过程: 数据写到master--master存储到slave的rdb中--slave加载rdb到内存。存储点(save point): 当网络中断了, 连上之后, 继续传.Master-slave下第一次同步是全传，后面是增量同步；、3. 数据一致性长期运行后多个结点之间存在不一致的可能性；开发两个工具程序：1.对于数据量大的数据，会周期性的全量检查；2.实时的检查增量数据，是否具有一致性；对于主库未及时同步从库导致的不一致，称之为延时问题；对于一致性要求不是那么严格的场景，我们只需要要保证最终一致性即可；对于延时问题，需要根据业务场景特点分析，从应用层面增加策略来解决这个问题；例如：1.新注册的用户，必须先查询主库；2.注册成功之后，需要等待3s之后跳转，后台此时就是在做数据同步。新浪Redis使用历程2009年, 使用memcache(用于非持久化内容), memcacheDB(用于持久化+计数),memcacheDB是新浪在memcache的基础上，使用BerkeleyDB作为数据持久化的存储实现；1. 面临的问题数据结构(Data Structure)需求越来越多, 但memcache中没有, 影响开发效率性能需求, 随着读操作的量的上升需要解决，经历的过程有:数据库读写分离(M/S)--数据库使用多个Slave--增加Cache (memcache)--转到Redis解决写的问题：水平拆分，对表的拆分，将有的用户放在这个表，有的用户放在另外一个表；可靠性需求Cache的雪崩问题让人纠结Cache面临着快速恢复的挑战开发成本需求Cache和DB的一致性维护成本越来越高(先清理DB, 再清理缓存, 不行啊, 太慢了!)开发需要跟上不断涌入的产品需求硬件成本最贵的就是数据库层面的机器，基本上比前端的机器要贵几倍，主要是IO密集型，很耗硬件；维护性复杂一致性维护成本越来越高；BerkeleyDB使用B树，会一直写新的，内部不会有文件重新组织；这样会导致文件越来越大；大的时候需要进行文件归档，归档的操作要定期做；这样，就需要有一定的down time；基于以上考虑， 选择了Redis2. 寻找开源软件的方式及评判标准对于开源软件，首先看其能做什么，但更多的需要关注它不能做什么，它会有什么问题？上升到一定规模后，可能会出现什么问题，是否能接受？google code上, 国外论坛找材料(国内比国外技术水平滞后5年）观察作者个人的代码水平Redis应用场景1. 业务使用方式hash sets: 关注列表, 粉丝列表, 双向关注列表(key-value(field), 排序)string(counter): 微博数, 粉丝数, ...(避免了select count(*) from ...)sort sets(自动排序): TopN, 热门微博等, 自动排序lists(queue): push/sub提醒,...上述四种, 从精细化控制方面，hash sets和string(counter)推荐