原创力文档行业观点
AI推理瓶颈迭代与架构演进，推动PCB价值定位跃升。Transformer架构下大模型推理分为Prefill与Decode
两个阶段，前者为计算密集型，后者为显存带宽密集型，算力利用率与带宽占用率呈现极端错配。英伟达推出解
耦式推理架构，将Prefill与Decode拆分到不同硬件，对PCB提出更高密度的HBM封装基板、更高速片间互
联及更高功率密度供电散热要求。与此同时，从芯片到机架的尺度演进中，HBM4引入要求中介层支持千位级
I/O；CoWoS-L向CoWoP演进让PCB首次承担类基板功能；GB300服务器
文档评论（0）