电力人工智能课件云边端一体化构建电力AI异构整体方案.pptxVIP

云边端一体化 构建电力AI异构整体方案 AI 从概念到落地 一元数据 图片分析 单一数据分析 单一场景 交通 互联网 多元数据 行业场景 外围 业务 视频数据 雷达数据 语音数据 电力能源 交通 工业制造 核心 业务 AI 从概念到落地-电力行业 机器视觉 发电 输电 变电 售电 配电 周界入侵 车辆识别 智能门禁 设备防护 故障诊断 运维管理 瑕疵检测 单一场景 行业定制化场景 AI 从概念到落地-电力行业 视觉分析 外 业 围 务 视觉分析 核心 业务 嗅觉分析 听觉分析 触觉分析 一元数据 多元数据 对算力算法的挑战 概念 低成本 易部署 可复制 人工智能行业大规模落地 从概念到大规模落地 对算力算法的挑战 算力 人工智能行业大规模落地 统一架构,分布式部署 统一模型,灵活裁剪 算法 端云一体的必要性 CPU GPU ASIC FPGA IoT 边缘智能 云端智能 端云一体，全系列产品布局 端云一体的两种布局流派 前端 边缘端 云端 自 下 而 上 自 上 而 下 端云一体 产品线 前端 边缘端 云端 端云一体 自下而上 优势 1. 特定应用最成熟，效率最高； 2.偏重数据的结构化处理； 典型厂商 摄像头类ISP芯片厂商 统一架构，分布式部署 实现端云一体的挑战： 1. 算法的广泛支持能力 （特定算法 ---》通用算法） 2.软硬件体系架构升级 （小算力 --》大算力） 加法 端云一体 自上而下 优势 通用性好； 算法易适配， 精度高； 典型厂商 英伟达 寒武纪 统一架构，分布式部署 实现端云一体的挑战： 1. 兼顾高性能与低功耗； 2.轻量级网络运行效率； 减法 统一的处理器架构和指令集 端云一体的布局策略 ML Engine 0 ML Engine 1 ML Engine 2 ML Engine 3 Vector Engine GPR ALU Decod er i Cache NF U WR AM Kernel Launch Bus AXI Bus Tensor Bus NF U WR AM NF U WR AM NF U WR AM Vector Processor NRAM Data Bus/ Control Bus Data compression /decompressi on DMA Engin e 统一的处理器架构和指令集 端云一体的布局策略 LPDDR4X Peripheral IO Multimedia CPU MLU Core Shared memory MLU Core MLU Core MLU Core General Purpose IO DDR4 Controller PCIe Gen 3.0 Host Interface MLU Core MLU Core MLU Core MLU Core Sharedmemory Shared memory MLU MLU MLU MLU Core Core Core Core MLU Core MLU Core MLU Core MLU Core DDR4 Controller DDR4 Controller DDR4 Controller MLU220 16TOPS@INT8 Shared memory Shared memory MLU MLU MLU MLU Core Core Core Core Multimedia CPU MLU270 128TOPS@INT8 HBM2 PCIe Gen 4.0 Host Interface DirectCV™ Accelerators Task scheduling L2 shared memory HBM2 L2 shared memory L2 shared memory L2 shared memory L2 shared memory L2 shared memory L2 shared memory L2 shared memory L2 shared memory L2 shared memory L2 shared memory L2 shared memory L2 shared memory MLU core MLU core MLU core MLU core MLU core MLU core MLU core MLU core MLU core MLU core MLU core MLU core MLU core MLU core MLU core MLU core L2 shared memory MLU core MLU core MLU core MLU c