应用驱动的数据中心计算.docxVIP

应用驱动的数据中心计算 @林仕鼎 2013/6/7 从搜索引擎讲起… Web Web Pages  Query Serving Index Crawling Building 网页库 倒排表 Data Mining 高吞吐的存储模型 Log-based 结构 Block I/O 批量Commit流式读写  Update In-Memory Records Query {key, data} Dump Memory Disk Log Block-N … Log Block-1 Commit New stream Block 0 Stream Block 1 Block0 … Block 1 Block Y … Block X 高吞吐的存储结构实现 最大化并行度 去RAID，暴露裸盘 Direct I/O 无文件系统  Block Block key, data … Memory dump Disk Block Block Block @disk0 @disk1 … @diskN 通过Blocks形成一个大的“文件” 通过Merge-Sort生成Sorted Stream Log Record Dump Memory Disk LogX Data1 Data2 … DataN … Log1 Data blocks Merge-sort Data1’  Data2’ New data  … blocks  DataM’ 通过几个Sorted Stream组成一个Table append Block-N  Mod stream key, mod merge Patch stream addr, mod Index stream key-addr merge … Block-2 Block-1 Base stream 一个典型存储系统的三层结构 Table Base Stream Mod Stream Index Stream Patch Stream Block Block Block … Block Block Block 变成分布式系统 在哪个层次做Partition？ 如何选择Replication粒度？ 复杂度 (管理?实现)数据交换与重组的开销 可靠性 (Reliability) 方案1 Table Table Table Base Mod Base Mod Base Mod Stream Stream Stream Stream Stream Stream Index Patch Index Patch Index Patch Stream Stream Stream Stream Stream Stream Block … … Block Block … … Block Block … … Block Replica 1 Replica 2 Replica 3 坏处：3倍Commit开销 好处：本地I/O 方案2 Base Stream Block … Block … Block … Replica 1 Replica 2 Replica 3 Index Stream Block … Block … Block … Replica 1 Replica 2 Replica 3  Mod Stream Block … Block … Block … Replica 1 Replica 2 Replica 3 Patch Stream Block … Block … Block … Replica 1 Replica 2 Replica 3 好处：1倍Commit开销 坏处：网络I/O 还有一些结构需要考虑 统一还是分开？ Log 存储方式？ Record Dump Memory Disk LogX Data1 Data2 … DataN … Log1 Data blocks Merge-sort Data1’  Data2’ New data  … blocks  DataM’ 从逻辑结构到物理结构的映射 衍化出多种系统架构 Logical Layer Physical Boundary Physical Layer Table Datacenter Memory Stream Cluster Flash Block Rack Disk Node Software-Defined Hardware 去RAID，暴露裸盘新SSD Rack-Scale Architecture 新SSD Rack-Scale Architecture 物理集成 高速全互联 可重组部件 共享电源风扇 ? 共享总线 30年PC时代终结 整个数据中心是一台计算机 应用驱动，软硬件协同创新 从单机到数据中心: 环境与设计目标的变