苏州市姑苏区人工智能大模型基础设施能力提升项目-采购需求.docxVIP

PAGE

PAGE54

PAGE

PAGE2

苏州市姑苏区人工智能大模型基础设施能力提升项目

采购需求

（一）本期项目服务清单：

序号

名称

服务要求

单位

分项预算（元）

1

算力资源租用服务

详见服务要求

1项

900000

2

人工智能通用能力服务

详见服务要求

1项

1115000

合计（元）

2015000

（二）服务内容及要求

算力资源租用服务清单：

算力资源租用服务相关技术要求如下：

序号

类目

关键技术要求

数量

服务期限

1

算力资源租用服务

1、AI训练算力单元机型需满足国产自主可控要求，CPU、AI处理器需使用同厂家国产自研芯片。

★2、BMC主机管理系统采用国产自研管理芯片。

3、硬件形态为4U机架式服务器，工作温度范围5℃~30℃，整机功耗≤5.5KW。

4、配置≥4个CPU处理器，每个CPU支持≥48core、主频≥2.6GHz，CPU支持超标量、可变长度乱序流水线，支持ECC1bit纠错、ECC2bit报错及IMU维护引擎收集CPU状态。

★5、配置≥8个AI处理器，支持OAM式集成服务器形式。单个AI处理器支持≥370TFLOPS@FP16或80TFLOPS@FP32算力，支持≥64GBHBM高带宽内存，单个AI处理器内存带宽≥1600GBps。

6、支持AI处理器直出200G交换机网络接口，支持Fullmesh互联，单个AI训练算力单元内部AI处理器互联带宽≥392GB/s。

★7、单节点提供不少于16×64GB内存，最大支持32根内存条。

8、硬盘配置≥2×960GBSATASSD及≥2×3.2TBNVME。

9、计算节点提供接口如下：

≥8×200GE直出网口、≥4×25GE网口、≥2个USB2.0端口、≥2个USB3.0端口、≥1个RJ45调试串口、≥1个RJ45管理网口、≥4个RJ45板载网口。

10、热拔插风扇配备≥8个，支持单风扇失效，N+1冗余备份；

11、电源：支持交流/直流模块。

12、运维管理技术要求如下：

电源模块支持热拔插，2+2冗余备份。

AI服务器需集成智能管理系统，兼容业界管理标准IPMI2.0规范，具有高度可靠的硬件监控和管理功能。

支持键盘、鼠标、视频和文本控制台的重定向。

支持远程虚拟媒体。

支持智能平台管理接口（IPMI）。

支持简单网络管理协议（SNMP）。

支持通过Web浏览器登录。

13、适配性：AI处理器需与不少于10个大模型完成适配。

14、提供配套的机柜资源服务。

15、专线服务如下：

起止点为提供配套机柜服务的IDC机房至苏州市姑苏区平川路510号姑苏区政府机房。

带宽≥100M,采用大带宽、低时延、高可靠性的OTN网络。

电路可用率达99.99%，支持50ms自动保护切换及抗多次断纤；

骨干网单向时延不超过8ms/1000km，本地接入单向时延不超过3ms；

误码/丢帧率，对于OTN接口接入业务误码率≤10E-6；

全链路丢包率≤0.1%；

在主备数据中心两端必须采用双路由接入及传输保护措施；

可提供可视化网管服务界面，可灵活针对网络资源、电路状态性能、开通进度、故障处理进度等信息进行实时查询和操作；

接入设备应能提供多接口选择，可同时提供电口及光口选择；

2套

1年

提供IDC机柜资源服务所需机房环境要求如下：

序号

要求

具体内容

1

地理位置

1.数据中心所在地应交通便利，可通过多种交通工具到达。

2.机房应远离无线电干扰、强力电源，避开地震区和其他震源，避开污染区，远离容易发生燃烧、爆炸、洪水和低凹地区。

3.有良好的周边配套环境，网络通讯畅通，资源充足。

4.机房内应有排水功能。机房的相邻范围不应有火源（如饭堂、酒楼、易燃品仓库等）。

2

机柜及布局

1.机房内采用符合空气动力学的方式布局进行冷通道隔离，即采用冷通道封闭的形式。

2.电力设施采用上走线方式。

3.机柜应采用面对面、背对背布局。

4.机柜应采用“下送风+密闭冷通道”方案，冷通道宽度1200mm，满足机柜散热，无局部热点；并设置相应的温湿度监控点。机房内机柜须采用通道封闭的形式。

5.机柜采用≥600mm（宽）*1200mm（深）*41U（高）机柜。

6.机房模块应不在多层建筑中的地下室区域。

3

供电系统

1.机房电源进线必须安全、可靠，应采用双路高压外电供电。从外电输入到IT设备负载全供电路由应为2N冗余设计，不应存在单点故障隐患。

2.高低压配电系统满足2N，整体满足可在线维护，总电力容量满足数据中心全部所有机柜正常运行所需要的用电负荷。

3.蓄电池需提供UPS系统在满载负荷情况下不少于15分