面向大规模AI数据流的接入算法和调度机制.pdfVIP

总第411期计算机与数字工程Vol.52No.1

ComputerDigitalEngineering

2024年第1期计算机与数字工程133

2024年第1期

面向大规模AI数据流的接入算法和调度机制∗

王季喜陈庆奎

（上海理工大学光电信息与计算机工程学院上海200093）

摘要在人工智能数据流边缘接入集群中，拥有更高的接入带宽固然重要，但高效的AI数据流接入算法和调度机制

更能够充分发挥接入服务器网卡等硬件性能。论文提出针对大规模AI数据流的并发接入算法和调度机制。针对AI数据单

元大小动态变化的不稳定性接入，设计区域动态分组接入算法和基于接入服务器资源预测的数据流迁移调度机制。集群实

验结果表明，区域动态分组接入算法可以更好地满足大规模AI数据流接入请求；在保证接入服务器集群数据流总并发量前

提下，基于资源预测的流调度机制使得接入服务器资源利用均衡，大大降低系统AI数据单元丢包率。

关键词AI数据流；UDP；区域动态分组接入；数据流迁移调度

中图分类号TP391DOI：10.3969/j.issn.1672-9722.2024.01.021

AccessAlgorithmsandSchedulingMechanismsfor

Large-ScaleAIDataStreams

WANGJixiCHENQingkui

（SchoolofOptical-ElectricalComputerEngineering，UniversityofShanghaiforScienceandTechnology，Shanghai200093）

AbstractIntheedgeaccessclusterofartificialintelligencedataflow，itisimportanttohavehigheraccessbandwidth，but

theefficientAIdataflowaccessalgorithmandschedulingmechanismcanbettergivefullplaytothehardwareperformancesuchas

accessservernetworkcard.Thispaperproposesaconcurrentaccessalgorithmandschedulingmechanismforlarge-scaleAIdata

flow.AimingattheunstableaccessofAIdataunitwithdynamicchangeinsize，aareadynamicgroupaccessalgorithmandadata

flowmigrationandschedulingmechanismbasedonaccessserverresourcepredictionaredesigned.Theclusterexperimentresults

showthattheareadynamicgroupaccessalgorithmcanbettersatisfytheaccessrequestoflarge-scaleAIdatastream.Ontheprem⁃

iseofensuringthetotalconcurrencyofdataflowintheaccessservercluster，theflowschedulingmechanismbasedonresourcepre⁃

dictionmakestheutilizationofaccessserverresourcesbalancedandgreatlyreducesthepacketlossrateofsystemAIdataunit.

KeyWordsAIdataflow，UDP，areadynamicgroupacc