P2P视频网站存储技术探讨与实践.docVIP

P2P视频网站存储技术探讨与实践  摘要： 随着视频内容的不断引入，省公司拟通过虚拟化集群平台架设P2P视频网站，P2P视频由于其集中了P2P以及视频的特点，对于存储有着特殊的要求，因此合理的对存储进行设计成为该虚拟化集群平台的关键，本文对存储技术进行了介绍并针对P2P视频网站的存储提出了解决方案。 现状与背景 为有效降低网间流量结算，提升用户感知，公司开展了互联网热点内容引入及流量疏导工作，目前已经与互联网客户端视频TOP5以内的PPS等三家视频内容提供商签订了IDC主机托管协议。 为节省成本，提高运维管理水平，我公司拟利用成熟的虚拟化技术，搭建虚拟化服务器集群平台，以较少的服务器提供同质化的服务。并为今后的大规模业务发展积累经验，提供硬件以及技术准备。 P2P视频由于其集中了P2P的I/O较高以及视频类磁盘吞吐量较大的特点，合理的对存储进行设计成为该虚拟化集群平台的关键。 存储技术简介 存储技术从接口而言，趋势为从并行向串行演变，与并行相比，串行拥有更快的存取速度、更大的带宽，主要表现在ATA演变为SATA，SCSI演变为SAS。 从存储技术的发展方向看，SAN方式大规模存储建设的主流。SAN中分为两大技术阵营，FC SAN与IP SAN 。IP SAN中又分为ISCSI与NAS。其中NAS一般用于较为低端的文件共享应用。 随着虚拟化技术的发展，“云”存储技术也逐步进入商用。与普通的存储方式相比，云存储的优点在于消除了上层系统、网络、硬件环境等方面的差异，将位于不同物理地点、连接与不同主机的存储统一起来，提供统一的存储服务。在存储内部，提供灵活的资源调度与容灾备份工作，并提供了灵活的容量增加功能。在云存储技术中也分为两类，一类是基于分布式文件系统（file），另一类是基于分布式磁盘块（block）。 P2P视频网站存储技术方案 P2P视频网站技术架构 现以PPS为例对视频网站技术架构进行介绍（现几乎所有的P2P网站的都非单纯的P2P，而是P2SP，其中Server存储了大部分的片源）。 PPS系统主要由节目源、广播源等五大模块组成，各模块功能如下： 1. 节目源模块 负责频道内容的接收、编排和发送工作。 2. 广播源模块 负责接受节目源所发布的数据，进行分拆、发布工作。 3. 镜像服务模块 通过广播源获取数据，进行数据分发改善局部区域网络体验。 4. 客户端模块 客户端可通过连接广播源、镜像或其他用户获得数据，并进行重组、播放。 5. Tracker模块 负责用户撮合功能，用户可通过连接Tracker而进入网络并获取节点信息。 P2SP节点工作流程 P2SP工作流程如下图： 存储技术方案 目前，在网络上传播的每路视频流的码率一般为100Kb－400Kb，我们设定单个视频流码率都为400Kb。在本次引入的几个视频网站都为各视频网站的一个小节点，采用都为Cache源站点内容方式。 根据视频网站要求，要求提供18T的总容量，同时提供以12台单机，每台机器I/O吞吐量一般在40MB左右的磁盘吞吐，即总量为12×40＝480MB的吞吐量。因此无论是FC SAN（最高4GB）还是IP SAN（最高3GB）都不会有问题，因此对于阵列而言，阵列控制器带宽不是瓶颈，因此拟采用更经济的IP SAN。 第二步计算每个磁盘的I/O吞吐量与IOPS，从而确定磁盘的种类（SAS或SATA）以及单个磁盘的容量以及数量。根据上面的介绍，P2SP工作流程是将大的视频文件分片，进行分布式存储，根据视频网站提供的经验数据可知主要的瓶颈在IOPS上面，因此在考虑设计时首先着重考虑IOPS的需求。从性能等综合因素考虑，我们拟采用性能更优的SAS硬盘。 假设磁盘数目为n，磁盘容量为m，n×m＝18T，单台的吞吐量为480/n，以单硬盘的稳定工作状态下不超过30MB计算，磁盘的数量不少于480/30＝16个。根据视频网站提供的经验数据，总IOPS大约在3000左右，其中90％为对磁盘进行读操作的IOPS，3000×90％＝2700。以单个磁盘IOPS为150的保守计算，2700/150=18,因此拟将磁盘个数定为18个，单台的容量为18T/18=1T,因此本存储配置为 IP SAN,双控8G，18×1T SAS硬盘。 小结 随着IDC内容引入工作的开展，近期有大批视频网站以及流媒体网站入驻（如优酷、酷我音乐盒等等都要求提供海量存储），因许多网站都要求公司提供运营环境，因此本文对P2P的存储原理进行了介绍，并配合实例对于如何选择存储技术以及如何计算进行了简介，希望为今后实施类似工程提供借鉴。 P2P视频网站存储技术探讨与实践 4/8