网络实现模型课件.pptVIP

端节点的性能瓶颈 网络应用的吞吐量受限于最慢的总线（通常是I/O总线） 协议处理通常涉及多次数据包拷贝，每个数据包都要穿过总线几次 处理器性能的提高消除了计算瓶颈，但无助于消除数据移动瓶颈 结论：端节点的性能瓶颈不在计算，而在访存和I/O 精品 Cache的使用效果与时空局部性 Cache的使用效果与指令/数据的时间局部性和空间局部性有关： 时间局部性：一个存储位置在短时间内被再次访问 空间局部性：一个存储位置被访问后，其邻近位置在短时间内被访问 X86处理器基于空间局部性假设实现预取： 每当读取一个32比特字时，处理器预取连续的128比特到cache中 高速数据包流基本不呈现时间局部性： 数据包本身通常不会被反复处理 同一个流的包往往被大量其它的流隔开 对于高速网络应用，提高算法及数据结构的空间局部性非常重要！ 精品 提高算法及数据结构的空间局部性 设计紧凑的数据结构，使其能够常驻cache不被换出 将随机访问（如链表）变为顺序访问（如数组） 对相同/相近位置进行的操作尽可能放在一起 将经常要被一起访问的数据放在连续位置，且与cache行对齐 …… 精品 2.4 操作系统 操作系统是为解决在裸机上编程困难而设计的 与裸机打交道最主要的三个难题是：处理中断，管理内存，控制I/O设备 为处理这些困难，操作系统提供了三种抽象：不间断计算，无限存储，简单I/O 抽象在提高程序员生产效率的同时，带来了两个代价： 实现抽象的机制是有代价的 抽象阻碍了程序员对资源的充分利用 精品 （1） 依靠进程实现不间断计算的抽象 操作系统通过进程提供给程序员不间断、顺序计算的抽象 进程抽象通过三个机制实现：上下文切换，调度，保护 进程抽象带来的开销： 上下文切换（状态保存及恢复），调度器运行，API 精品 精品 精品 精品 精品 精品 精品 精品 精品 精品 精品 精品 精品 精品 第二章 网络实现模型 精品 模型的重要性 网络算法学的一个难题是它需要多个领域的知识： 协议、硬件、体系结构、操作系统、算法等 需要不同领域的专家协作设计出高效的网络计算机系统 不同领域的专家通过简单的模型进行对话： 模型描述了问题的要点，又不涉及不必要的细节 最低程度：模型应能定义所需要的术语（能够交流） 最好情况：领域外的专家可以根据模型进行设计，并可由领域内的专家对设计进行验证 精品 2.1 协议抽象模型 协议定义了对等实体之间通信的规则： 定义了对等实体之间交换的报文的格式和次序 定义了在发送报文、收到报文或收到其它事件后采取的动作（通常给出一个协议状态机） 定义了调用接口 精品 协议抽象模型（续） 可将协议看成是加上了调用接口和报文格式定义的状态机，所有协议都可以抽象为图中的状态机模型： 一个上层接口调用使协议状态机初始化 在某个状态时，可能发送一个报文、收到一个报文或发生一个定时器事件，并进入一个新的状态 精品 常见而耗时的功能（TCP/IP） 与数据包收发有关的功能： 数据操作：交换、数据拷贝、检错等 分配资源（如内存、CPU） 与协议处理有关的功能： 重组数据包 查表及修改状态 设置定时器 调度任务 数据包交付给应用： 解复用（确定目标程序） 控制切换（唤醒目标程序） 精品 重要的性能指标 两个最重要的性能指标： 吞吐量：每秒处理的包数（pps）或比特数（bps） 延迟：处理一个数据包的时间（通常关注最坏情况延迟） 性能测量分为： 全局性能测量：如端到端延迟和带宽，使用网络管理工具（如OpenView）进行测量 本地性能测量：如路由器查找速度，使用计算机内部的性能测量工具（如Oprofile, Vtune）测量 本课程关注数据包在本地的处理速度，线速处理是系统优化的重要目标之一 精品 因特网环境的特点 链路速度已达到万兆量级 10Gbps已普及，40Gbps在数据中心很常见，100Gbps已出现 TCP流量占主导 大量应用使用TCP协议 小包很多 路由器收到的包中大约一半为最小长度（40字节）的包 移动互联网、即时通讯应用中大量都是小包 局部性很差 骨干网上，在一个非常短的时间内大约有一百万个并发流经过一个路由器 这意味着，在一个包上执行的计算，在未来短时间内重用到另一个包上的可能性很小 精品 网络计算机系统面临的挑战 高速链路 + 大量小包： 包速率很高 线速处理难度大：处理一个包的时间必须非常短 高速链路 + 大规模并发流： 数据局部性很差 Cache用不上（命中率低），消除访存瓶颈困难 TCP流占主导 + TCP处理开销大： 优化TCP实现很重要 精品 2.2 存储器 在现代计算机系统结构中，访存是最大的性能瓶颈： 存储器访问时间比指令执行时间长很多 处理器速度和访存速度之间的鸿沟越来越宽，使得访存瓶项问题更加突出 访存构