淘宝基于racle+rac的数据仓库系统.docVIP

淘宝数据仓库环境介绍 陈吉平 淘宝网首席DBA，资深技术专家 Oracle ACE 《搭建Oracle高可用环境》一书作者 淘宝介绍 ? 淘宝网（）是国内领先的个人交易网上平台，由全球 最佳B2B公司阿里巴巴公司投资4.5亿创办，致力于成就全球最大的个 人交易网站。自2003年5月10日成立以来，淘宝网基于诚信为本的准 则，从零做起，在短短的半年时间，迅速占领了国内个人交易市场的 领先位置...  ?淘宝数据仓库的发展历史 ?淘宝数据仓库的现状 ?淘宝数据仓库的维护 ?淘宝数据仓库的未来发展   单机- DELL6650  IBM-P550  4节点RAC环境 12节点RAC环境 计划扩展到20节点  2004 2006 2007 2008  ? 当时的可选方案 z Teradata，在ebay有成功案例 z Oracle Rac，对淘宝来说，技术比较成熟 ? 主要考虑的问题： z 1. 效率，是否能快速的满足日常需求 z 2．开放性，开放系统还是选择封闭系统 z 3. 可扩展性，包括线性扩展能力，对外接口等 z 4. 成本因素  ? Oracle RAC优点 z Oracle是一个相对开放的系统，文档很多 z Taobao本身对Oracle的技术比较了解 z 在实际的测试中，Oracle表现比较优越 z 可以做到线性的扩展能力 z 成本不会高于Teradata ? Oracle RAC缺点 z 对技术的要求相对比较高，需要DBA深入的优化  数据源 ODS 计算 展示  Oracle 4节点 RAC ODS层 12节点 RAC 计算层  Real Time同步  Mysql ETL互备  …… 分布计算 (hadoop)  Personalization Recommendations Business Analysis Web Servers Data WareHouse   Taobao DataBase Internal End Users 淘宝数据仓库应用案例（一）—淘我喜欢 淘宝数据仓库应用案例（二）—猜你喜欢 淘宝数据仓库应用案例（三）—内部系统 淘宝数据仓库12节点物理拓扑图  ? 上线前测试情况 z 5台CX3-80，每台120块146G 15K光纤硬盘，12个节点同时跑 Orion测试： z orion -run advanced -testname mbps_all_point_20 -num_disks 500 -size_small 1024 -size_large 1024 -matrix point -num_small 0 - num_large 20 -type seq -verbose z 读总吞吐量达到7721.26MB/s ? 目前使用量：读2.5GB/s，写500MB/s  ? 普通千兆 网卡 ? Infiniband 高速交换  User  RAC Database IPC Library  User  RAC Database IPC Library  Kernel  UDP Kernel  RDS  IP IPoIB Hardware NIC HCA Hardware  NIC  HCA  IPOIB 300-500MB/s，延迟几十us RDS(certified by oracle ) 速度1GB/s，延迟10us  ? 对于IPOIB z oracle端不需要做任何调整 z 检测 ? oradebug setmypid ? oradebug ipc ? oradebug tracefile_name ? netperf -H 04 -l 60(Linux tool) ? 对于RDS z 安装 ? cd $ORACLE_HOME/rdbms/lib ? make -f ins_rdbms.mk ipc_rds ioracle ? 详细见“Oracle Real Application Clusters 10g Release 2: Installation and Configuration of Linux Clusters Using RDS over InfiniBand Interconnect” /technology/products/database/clustering/pdf/rds_installatio n_on_oracle_rac_10g_release_2_linux_clusters.pdf z 对于RDS速度的检测 ? crload/crtest(Oracle Developer team’s tool) ? Oradebug中无法