云边端一体化的异构AI计算.pdf

云边端一体化的异构AI计算

目录

1背景：边缘计算面临的挑战

2云边端一体化的异构AI计算平台

异构AI硬件平台

异构AI编译：HALO

异构硬件解耦规(ODLA)

ODLA.CV/Pipeline自动生成

3未来新技术探索

背景：边缘计算经历快速增长

中国人工智能市场每年40%以上的增长

边缘计算占比越来越高，边缘计算需求越来越大

75的数据50的数

在据

边缘产生在边缘处理

5.5X

数据爆炸180ZB

33

ZB

2018

2025Source:IDC中国人工智能软件及应用市场半年度研究报告，2019H1

边缘场景挑战1：设备独立部署，运维管控难

IDC数据中心vsMEC边缘机房

街边柜

1200mm机柜600mm~800mm机柜

70℃环境温度

25℃环境温度35+℃环境温度密闭无风

8~16KN/m2承重2~5KN/m2承重

供电、运维、安全……/

部署集中部署分散

环境标准环境恶劣

设备单一设备复杂

边缘场景挑战2：芯片多样，生态隔离

NVIDIACambric

软件栈IntelAMDCUDA-高通NeuroPiNXP®eICoreVitisAICANNonRKNN-HGAI

oneAPIROCmXAISDKlotQ™MLNeuWarToolkit

e

芯片

指令集X86ARMMIPSPPC