借我一双慧眼――Web20的运营监控及数据统计.pptx

借我一双慧眼

Web2.0的运营监控及数据统计51.COM研发经理林泰君2009.12.26

WEB2.0的挑战51应对挑战案例分享51数据统计系统架构51.COM

WEB2.0的挑战51.COM

大型WEB2.0网站的运营现状复杂巨大众多51.COM用户产生内容用户与网站的交互线上运行的代码量业务逻辑网站架构

网络环境机房网站功能

运营监控的巨大挑战如何监控数以千计的功能在巨大的用户交互背景下,在复杂的网络环境中,在众多的机房里是可靠可用的?监控什么?怎么监控?51.COM业务层网络层

目前的监控方式广域网络监控商业产品内部网络监控Cacti服务器监控NagiosGanglia51.COM

已有监控方式的优点及不足优点广域网监控能发现定位广域网层面的一些问题Cacti能很快发现内部网络问题.Nagios,Ganglia能很快发现并定位服务器层面的问题不足广域网监控:监控点少,有时不准确价格昂贵无法发现定位业务层问题51.COM

51应对挑战51.COM

应对方法-缺啥补啥广域网监控业务层监控51.COM

广域网监控做法: 在网站页面上嵌入脚本,测试用户端抓取不同服务器上的图片的速度,将数据汇总,根据不同的测速曲线及历史曲线判定广域网事件功效:发现广域网异常,并定位出异常是发生在用户端,广域网,还是企业机房特点:成本低廉,准确度高51.COM

业务层监控做法: 通过嵌入在业务逻辑代码中的数据采集程序,汇聚业务数据到数据中心,异常发现系统抓取数据中心的数据进行曲线模式匹配,发现异常,上报数据到告警服务器,监控中心收到告警,并做检查,最终确定是否有事故发生.功效能发现大量以往不能发现的问题用户不再是测试员,是真正的上帝!特点能快速发现业务层异常,并准确定位异常点51.COM

51.com慧眼10000多个广域网络采集点5000多个业务监控点,涵盖51.com的所有重要功能可定制上报时间的自动监控监控点可任意添加,甚至监控网页Flash,Js可定位到异常发生在哪个频道,服务器,页面,程序段,甚至是哪行代码.51.COM

案例分享51.COM

故事:一个阳光明媚的早上半仙,焦工,黄大侠,薄海在踢皮球陈总是火警……一个阳光明媚的早上半仙,焦工,黄大侠,薄海在开心的工作陈总读书看报聊技术人生51.COM

发现问题–某频道用户访问曲线下降

51.COM

分析现象–广域网测速情况

51.COM

分析现象-交换机流量情况

51.COM

分析现象-服务器监控51.COM

分析现象-总在线及各地在线情况51.COM

定位问题-问题发生在哪个功能逻辑中51.COM

定位问题-问题发生在哪台服务器的哪个页面上51.COM

事故记录51.COM

当其他公司的运营总监在为运营质量头痛脑裂时,我们陈总却能胸有成竹,运筹帷幄,很重要的原因就是有一套完备的监控系统,用一双双自动化的眼睛检查运营质量.51.COM

51数据统计51.COM

数据统计的前世今生数据统计和运营监控有什么关系?为什么系统提供的数据能做财务审计使用?51.COM高层为何每天登入系统3次,他们在关注什么?51.COM

前世-监控统计系统的背景庞总问:我们的PV有多少?一天后,三天后,三十天后:一封来至Google的邮件.我们自己开发.业务监控系统-意外的收获深刻的认识: 业务监控和业务统计实际上是一个铜板的两面.51.COM

今生-统计系统的现状实时统计800台WEB服务器每天十几亿次请求采集分析400多个用户信息3000多个统计点3年积累了12T的用户行为数据和Google分析的不同关注用户行为–可以采集到触发某种业务逻辑的用户信息数据实时–产品人员可以立即看到新上线产品的变化情况51.COM

部分统计功能展示51.COM业务行为统计用户行为统计PV统计产品分析核心数据分析用户成分分析反作弊分析页面行为统计用户分布分析

系统架构51.COM

监控统计系统架构51.COM业务层数据中心异常发现主数据库报表告警用户分析

监控数据分析广域网监控战略数据采集第三方数据采集用户舆论采集接入层监控服务器监控业务数据采集业务监控数据总线数据总线数据总线业务分析业务支撑运营支撑系统架构图客户端监控51.COM中子弹结构图51.COM

Q＆Ａ

ＴＨＡＮＫＹＯＵ！ 51.com 研发经理林泰君彩虹IM201