CHAMP：一种用于自适应生物识别任务的可配置、热插拔边缘架构-计算机科学-自定义操作系统-人工智能.pdfVIP

CHAMP：一种用于自适应生物识别任务的可配置、热插拔边缘架构

JoelBroganMatthewYoheDavidCornett

broganjr@yohema@cornettdciii@

OakRidgeNationalLaboratory

1BethelValleyRd.OakRidge,Tennessee

Abstract

本如果你能像乐高™积木一样拼凑出自己的定制生

译物特征和AI分析系统会怎么样？我们旨在将这项技术

中带到现场操作人员手中，他们需要灵活的高性能边缘

AI系统，可以随时适应变化。本文介绍了冠军（可配

1

v置热插拔机器感知架构），这是一个模块化边缘计算平

3台，允许操作员动态地插入用于人脸识别、目标跟踪和

9

7文档分析等任务的专业AI“功能卡”。CHAMP利用基

7

1于低功耗FPGA的加速器在高吞吐量总线上运行，并

7.由一个自定义操作系统（VDiSK）编排，以实现即插即

0用的AI流水线和加密保护的生物特征数据集。本文描

5

2述了CHAMP的设计，包括其与多个加速器的模块化

:

v扩展以及用于运行时重新配置的VDiSK操作系统，还图1.CHAMP原型的示意图，由NVIDIAJetsonAGXOrin

i有其加密能力，确保存储在模块上的数据安全和隐私。与自定义高吞吐量USB3.0总线组成。在此配置中，总线上

x

r实验展示了从1到5个神经计算加速器近线性吞吐量安装了3个IntelMovidius2计算棒模块和一个最终的高速

a

扩展，突显了基于USB3总线的性能增益和饱和限制。USB驱动器，用于存储大型加密生物特征数据库（最左侧的

最后，我们讨论了CHAMP在现场生物特征识别、监模块）。

控以及灾难响应中的应用，并概述了未来在总线协议、

卡能力及系统软件方面的改进。

的要求。迫切需要一个由非专家现场可重构的边缘AI

平台，以在功率和尺寸限制下处理各种任务。

1.介绍在这篇论文中，我们提出了冠军（C可配置H热

插拔A架构用于M机器P感知），一个设计用于满足

边缘计算在执行现场AI任务方面变得至关重要，这些需求的边缘计算平台。CHAMP提供了一个小型、

应用场景从国防和安全到灾害响应。现场操作员经常轻量级模块，可以快速部署和重新配置多种人工智能

面临不断变化的任务需求，需要迅速切换诸如目标检能力。关键创新是一组即插即用的能力弹药，每个都实

测、车辆跟踪或生物特征识别与鉴定等AI任务，在不现特定的机器学习任务（例如，对象检测、面部识别、

可预测的环境中作业。传统的固定功能视觉系统或基自然语言处理）在低功耗FPGA或神经加速器上。操

于云的分析不足以满足实时响应性、便携性和适应性作员可以在不关闭系统的情况下热交换卡匣以更改或

链接功能。这些墨盒通过高带宽的CHAMP总线接口CHAMP目前没有利用或集成[7]，但其在网路上编排

连接到中央控制器，该控制器运行自定义的VDiSK操容器的能力提供了未来可能被CHAMP利用的优势。

作系统[3]来协调跨墨盒的数据流和资源管理。图1显先前的学术研究已经探讨了传感器网络和可重构

示了一个原型CHAMP测试平台，该平台上集成了多计算环境中的模块化架构。例如，关于FPGAs