同步多线程(SMT)技术基础.docVIP

同步多线程 (SMT) 技术基础 介绍 微处理器设计的发展和我们对速度的需求，诞生了很多新技术并使它们迅速发展，也使现在的以及下一代的处理器的效率和性能都有了提升。一定的体系结构下，在提高性能、降低开销和指令级并行性（ILP之间）加以平衡，可以降低平均CPI。 同步多线程技术（SMT）是一种体系结构模型，其目的是在现有硬件条件下，通过提高计算能力来提高处理器的性能。因此，同步多线程技术结合了多重启动处理器（超标量和VLIW）和多线程处理器的思想来增加并行度，进而提高性能。 多重启动处理器可以在一个周期内执行多条（2，4甚至8条）指令，而多线程和多处理器（SMP和CMP）结构可以同时或者在很少的延迟内执行来自不同线程的指令。SMT结构中，不仅在一周期内启动多条指令，而且也能在同一周期内启动来自相互独立的线程（或上下文）的指令。在理论上，这种改进运用了指令级并行性（ILP）和线程级并行性（TLP）技术来提高执行功能单元的效率。 同步多线程技术之前的研究 多重启动处理器（Multiple Issue Processors） 运用在超标量和VLIW上的多重启动处理器，其目的是为了降低平均CPI，通过在一个周期内启动多条指令，充分利用处理器的功能单元。要想有效利用多重启动处理器资源的关键就是在运行的程序中，发现足够的指令级并行性，通常这种并行性是由硬件决定的。超长指令字（VLIW）处理器每周期启动固定数目的操作，而这些操作是由编译器决定的。 超标量处理器通常是指“动态调度”（dynamically scheduled）的多重启动处理器，因为他们是通过硬件来发现代码中的并行性。不同的是，VLIW处理器通常是“静态调度”（statically scheduled）的，因为他们依靠编译器来发现并优化指令级并行性。 无论是动态或是静态调度，如何有效利用多重启动处理器，依赖于发现并利用指令级并行性。指令级并行性来自同一个上下文环境、程序或线程。CPU和编译器重新安排和启动指令，以此来最大限度的利用资源而不改变应用程序的完整性。在多重启动处理器中，如果不能发现足够的并行指令来填满发射槽（issue slot），那么资源就被浪费了。 超标量处理器现在大致有DEC/Compaq 21164, PowerPC, MIPS R10000, Sun UltraSparc和 Hewlett Packard PA-8000。而VLIW处理器则包括Intel IA-64 (Itanium) 和Transmeta Crusoe。对多重启动处理器和使用记分牌（scoreboarding）和Tomasulo算法的动态调度已经有了很多研究，我将不再花费时间分析他们。 多线程处理器（Multithreaded Processors） 多线程处理器主要通过降低操作延迟以提高处理器的效率，比如说cache失效和需要长执行周期的指令。一个多线程处理器通过分配给每个线程独立的PC（program counter）和寄存器来保持线程间相互独立的状态。 由于每个处理器在切换上下文时几乎没有延迟，所以每个周期可以启动来自不同线程的指令。如果处理器在每个周期切换上下文，这就叫做细颗粒（fine-grained）的多线程或交叉（interleaving）。粗颗粒（Course grain）的多线程处理器则是在某一线程出现长延迟时，才切换线程，以保证指令的持续启动。正是由于存在分离的、独立的上下文和指令资源，多线程体系结构才能利用线程级并行性（TLP），从而提高处理器的效率。多线程处理器通过比传统处理器更精细地共享处理器资源，从而有效的提高了处理器的利用率。就如同多重启动结构依赖于指令级并行性（ILP）一样，多线程处理器更依赖于线程级并行性（TLP）。线程级并行性来源于多个线程，并行程序或者是多程序环境下的独立的程序。但是多线程处理器不能在同一个周期内启动来自不同线程的指令。因此，当一个周期内，单线程无法找到足够的指令级并行性，处理器资源就被浪费了。 多线程处理器现在包括Denelcor HEP, Tera, MASA和Alewife。 多处理器Multiprocessors (CMP and SMP) 多处理器结构可能是一个包含了多处理器核心(AKA芯片多处理器或者CMP)的包，也可能是在同一个计算机上的两个或多个物理处理器包(AKA对称多处理器SMP) 。多处理器结构通过允许线程同步执行来提高总体的性能。就如同多线程处理器，多处理器也要依赖于线程级并行性来提高性能。但是多处理器结构并没有提高总体的处理器资源利用率，因为在当前线程没有足够的并行性时，处理器资源还是闲置了。 IBM的Power4, Sun的MAJC和Cradle的Universal Microsystem是多处理器或CMP的典