Google数据存储技术分析.ppt

* * MapReduce示意图 MapReduce系统结构 Single Master node Many worker bees Many worker bees MapReduce操作 Initial data split into 64MB blocks Computed, resultslocally stored Master informed ofresult locations M sends datalocation to R workers Final output written MapReduce容错性 Worker出错 Master通过心跳检测出错情况 如果是map操作则重新执行 如果是未完成的reduce操作则重新执行 Master出错 一般不会发生 可以有解决方法 MapReduce容错性 worker速度不一致 较慢的worker会导致整体计算时间变长 解决方案 Master监控执行情况 如果有特别慢的worker，则启动另一个worker做相同计算 以先算完的为准 MapReduce系统性能 从1010 条100字节的记录中grep特定正则表达式，用时150s，匹配92k条记录 排序1010 条100字节的记录，用时839s MapReduce优点 使用简单，注意力集中在数据处理上，多机的通讯等问题由架构提供 本地计算，到数据所在地进行计算，减少了数据传输 高度简化了大规模并行处理 与GoogleFS很好的集成 BigTable 背景 海量数据的存储和访问 GoogleFS只解决了部分问题 大量的随机访问 通用的dbms不能满足需要 数据的特殊性 数据量超出dbms的管理能力 性能要求（难以优化） 价格 BigTable简介 分布式多维map 容错的持久存储 可扩展 自管理 服务器动态增加/减少 根据负载自动调整 MapReduce构件 GoogleFS:持久存储数据 Google WorkQueue:调度器，向各个server分配任务 Google chubby：分布式锁服务 MapReduce：数据处理 BigTable集群 Cluster Scheduling Master Lock Service GFS Master Machine 1 SchedulerSlave GFSChunkserver Linux UserTask Machine 2 SchedulerSlave GFSChunkserver Linux UserTask Machine 3 SchedulerSlave GFSChunkserver Linux Single Task BigTableServer BigTableServer BigTable Master BigTable数据模型 (row, column, timestamp) ? 单元值 … … “html…” t1 t2 t3 Cn.www ROWS Column family TIMESTAMPS “contents” BigTable数据模型 行： 行的名字是变长字符串 对一行数据的操作是原子的 创建一行就会存储一行数据 行是按字典顺序排序的 将url反转过来作为行名，可以将同一个网站上的网页分散 Tablets 大的表可以以行为单位分隔成两个tablet 每个tablet保存连续的行 单个tablet数据量不大，100M~200M 每个机器上大约放100个tablet 可以快速恢复 可以实现细粒度的负载均衡 Tablets Splitting “html…” TABLETS “contents” EN /sports.html “language” W Z/menu.html … … Tablets Splitting “html…” TABLETS “contents” EN /sports.html “language” W Z/menu.html … Y/kids.html Y/kids.html?D … … Bigtable系统架构 Cluster Scheduling Master handles failover, monitoring GFS holds tablet data, logs Lock service holds metadata,handles master-election Bigtable tablet server serves data Bigtable tablet server serves data Bigtable tablet server serves data Bigtable master performs metadata ops,lo