面向可预测深度学习训练的高效益云资源配置方法研究.pdfVIP

华东大士位 摘 为升习 （Dee Leaning, DL ）型准， （Dee Neal Nek, DNN ）变加复，其处也 之增大。因，传基于单及其、储力大 DNN 。为保DNN ，在公云中分 地DNN 型为一大势。 ，在Aman EC2 公云中典型DNN 动 发，分（Diibed DNN, DDNN ）在大 动。一动分出DDNN 动三大 原因：一、前主公云中例（即inance ）与不均 、以及型参地，使DNN 中参务 器为；二、与地可，公云例件 在大；三、前分习优化制下在DDNN 与信不，从习利低下。 为，出一向习保云 Ca。具体，Ca 先一个DDNN 分型 及失函型，合和件动响， 于准DDNN 。其，基于型，Ca 一个单且云，可在保 DDNN 同 ，化。后，在Aman EC2 中Kbenee 一个56 个器习，了Ca 原型。基于Ca 原型大：Ca 在供可DDNN 同，减 DDNN 50.6%，具可受。 关： 云、、可、、 I 华东大士位 ABSTRACT ABSTRACT T ime he infeence accac f dee leaning (DL) mdel, he aining da- ae ge lage in ie and he dee neal nek (DNN) mdel inceae in cm- lei. Theefe, he adiinal ingle-ee baed aining mehd and i cming and age caaci cann mee he aining eiemen f lage DNN mdel. In de gaanee aining efmance and ae aining bdge, i becme incea- ingl cmelling ain DNN mdel in a diibed manne in blic cld. Hee, miain eeimen f aining eeenaie DNN mdel in Aman EC2 h ha, hee ei ha flcain in diibed DNN (DDNN) aining efmance. We fhe anale miain eeimen el and iden- if hee inicae fac ha cae he DDNN aining efmance aiain. Fi, he aamee ee in he aining cle can eail becme a ece bleneck, de he mimach beeen cming and nek ece in he cen main- eam blic cld inance, a ell a he feen echange f mdel aamee hgh he nek; Secnd, cmaed ih he lcal cnllable cle ece, he ndeling hadae heegenei f blic cld inance can hae eee imac n he DDNN aining efmance. Finall, de he imiain mechanim f e- iing diibed dee leaning famek, hee ei an imbalance beeen cm- ing ime and cmmnicain ime f DDNN aining, hich eenall cae eee cming ece nde-iliain. T ackle he ie abe, hi hei e