人工智能芯片设计与研发手册.docxVIP

芯片设计与研发手册

第1章芯片架构与系统级设计

1.1异构计算架构选型与评估

异构计算架构是指将通用CPU与专用GPU、NPU或FPGA等加速器结合，以实现不同任务并行度的系统。在选型时，首要任务是明确业务场景的算力需求矩阵，例如是侧重图像识别（如YOLO模型）还是自然语言处理（如BERT模型）。对于大规模视觉推理任务，若目标模型参数量超过100亿，且需要同时处理多模态数据，则必须采用多核异构架构，将通用CPU作为调度器，调度多个GPU单元进行并行推理。评估异构架构性能时，不能仅看理论峰值算力，必须引入“有效算力”指标。以NVIDIAA1008