互联网时代的网络自动化运维整理.pdfVIP

互联网时代的网络自动化运维 2014-06-27 14:04 李阳 孙中良 中国 IT 运维网 字号： T | T 互联网上有两大主要元素 内容和眼球 ， 内容 是互联网公司提供的网络服务， 眼球 则是借指海量的互联网用户。 AD： WOT2014：用户标签系统与用户数据化运营培训专场 51CTO主办 WOT全球软件技术峰会直减百元优惠活动 抢票进行中！ 互联网上有两大主要元素 内容和眼球 ， 内容 是互联网公司 ( 或称 ICP) 提供的网络服务，如网页、游戏、即时通信等， 眼球 则是借指 海量的互联网用户。互联网公司的内容往往分布在多个或大或小的 IDC 中，越来越多的 眼球 在盯着 ICP 所提供的内容，互联网公司进 行内容存储的基础设施也呈现出了爆发式的增长。为了保障对内容的访问体验，互联网公司需要在不同的运营商、不同的省份 / 城市批量 部署业务服务器用以对外提供服务，并为业务模块间的通信建立 IDC 内部网络、城域网和广域网，同时通过自建 CDN或 CDN专业服务公 司对服务盲点进行覆盖。因此随着业务的增长，运维部门也显得愈发重要。他们经过这些年的积累，逐步形成了高效的运维体系。本文 将结合国内互联网公司的经验，重点针对 IT 基础设施的新一代自动化运维体系展开讨论。 一、运维的三个阶段 ● 第一个阶段：人人皆运维 在早期，一个公司的 IT 基础设施尚未达到一定的规模 ( 通常在几台到几十台机器的规模 ) ，不一定有专门的运维人员或部门，运维的工作 分担在各类岗位中。研发人员拥有服务器权限，自己维护和管理线上代码及业务。 ● 第二个阶段：纵向自动化 随着业务量的增长， IT 基础设施发展到了另外一个量级 ( 通常在上百台至几千台机器的规模 ) ，开始有专门的运维人员，从事日常的安装 维护工作，扮演 救火队员 ，收告警，有运维规范，但运维主要还是为研发提供后置服务。 这个阶段已经开始逐步向流程化处理进行过渡，运维部门开始输出常见问题处理的清单，有了自己业务范围适用的自动化脚本，开始利 用开源软件的拼装完成大部分的工作。 具体表现为：各产品线有自己编写的脚本，利用如 SVN+puppet 或 chef 来完成服务器的上线和配置管理等工作。 ● 第三阶段：一切皆自动 在互联网化的大潮中，越来越多的黑马团队应运而生，都曾有过短时间内用户访问量翻 N 倍的经历。在流量爆发的过程中， ICP 的互联网 基础服务设施是否能够很好的跟进，直接决定了业务内容能否满足海量用户的并发访问。 与此同时，运维系统需要足够地完善、高效、流程化。谷歌、腾讯、百度和阿里等规模的公司内一般都有统一的运维团队，有一套或多 套自动化运维系统可供参照，运维部门与开发部门会是相互平行的视角。并且也开始更加关注 IT 基础设施在架构层面的优化以及超大规 模集群下的自动化管理和切换 ( 如图 1 所示 ) 。 图 1. 大型互联网公司 IT 基础设施情况概览 二、 BAT(百度、阿里、腾讯 ) 运维系统的分析 国内的互联网公司百度、 阿里、腾讯 ( 以下简称： BAT)所提供的主要业务内容不同， IT 架构不同， 运维系统在发展过程中有不同的关注点。 1. 腾讯运维：基于 ITIL 的运维服务管理 预计到 2015 年腾讯在全国将拥有 60 万台服务器。随着 2012 年自动化部署实践的成功，目前正在进行自动化验收的工作。在网络设备方 面，后续将实现从需求端开始的全自动化工作：设备清单自动生成 - 采购清单自动下发 - 端口连接关系、拓扑关系自动生成 -配置自动 下发 - 自动验收。整个运维流程也已由初期的传统 IT 管理演进到基于 ITIL 的服务管理流程 ( 如图 2 所示 ) 。 图 2. 腾讯基于 ITIL 的运维服务管理 2. 阿里运维系统：基于 CMDB的基础设施管理 + 逻辑分层建模 CMDB(Configuration Management Database)