数智底座：构建安全可控AI新基建，激发金融数据资产新势能.pptx

数智底座：构建安全可控AI新基建

激发金融数据资产新势能

训练阶段：任务调度不合理导致资源碎片化，GPU实际有效利用率常低于50%

推理阶段：请求波峰波谷明显，固定算力绑定造成资源闲置

网络通信瓶颈与算力浪费

多GPU间需频繁同步梯度，需微秒级时延和80%+带宽利用

率，训练中通信开销占比高达50%，传统以太网利用率仅35-40%，0.1%丢包率即可导致30-50%算力损失

存储I/O与数据加载延迟

数据作为新生产要素，算力作为新基础能源,大模型作为新生产工具，

各行各业从“+A”向“AI+”的转变势不可挡

随着生成式AI的不断成熟，AI+已经开始渗透到决策、创新和价值