《城市级智算中心平台和运营技术要求与评估方法》团体标准征求意见稿.docx

3 T/CSAE xx—20xx 城市级智算中心平台和运营技术要求与评估方法 1 范围 本文件规定了智算中心的服务分类、功能架构、智算基础设施、智算基础平台、机器学习平台、大 模型智算平台和运营的技术要求和评估方法。 本文件适用于指导智算中心平台的研发、设计、 建设和运营。 2 规范性引用文件 下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件， 仅该日期对应的版本适用于本文件；不注日期的引用文件， 其最新版本（包括所有的修改单） 适用于本 文件。 GB/T 41867-2022 信息技术 人工智能 术语 T/AI 118.1—2022 人工智能算力中心 第1部分：技术要求 3 术语和定义 下列术语和定义适用于本文件。 3 .1 智算中心 artificial intelligence computing center 一种能够为多用户提供人工智能计算服务、数据容纳的结构或结构组。使用信息技术、电信网络设 备提供的数据存储、处理、迁移，人工智能计算加速等功能， 并集成能量供应、环境控制和为服务可用 性而制定的必要的可靠性组件。 [来源： T/AI 118.1—2022，3.3，有修改] 3.2 人工智能集群 artificial intelligence cluster 遵循统一控制的， 人工智能计算功能单元的集合，可包含人工智能加速处理器、 人工智能服务器、 人工智能加速模组等。当由人工智能服务器组成时，人工智能集群可称为人工智能服务器集群，其中的 人工智能服务器可称为节点。 [来源： GB/T 41867-2022，3.1.4，有修改] 4 缩略语 下列缩略语适用于本文件。 4 T/CSAE xx—20xx API：应用程序编程接口（Application Programming Interface） CPU：中央处理器（Central Processing Unit） GPU：图形处理器（Graphics Processing Unit） IDC：互联网数据中心（Internet Data Center） IPMI：智能平台管理接口（Intelligent Platform Management Interface） RDMA：远程直接内存访问（Remote Direct Memory Access） RoCE：基于融合以太网的RDMA (RDMA over Converged Ethernet) 5 智算中心总体要求 5.1 智算中心服务分类 智算中心提供的算力规模（以8*A800算力参考） 可分为小算力（1卡-128卡）、中算力（128卡-512 卡）、大算力（大于512卡）。 从智算中心产品功能和算力规模角度，智算中心为用户提供的服务场景可分为简单智算服务、中等 智算服务和大模型智算服务。 a) 简单智算服务： 为用户提供通用的CPU、GPU等算力，通过API调用通用模型NLP等提供推理服务， 支持针对不同数据规模提供小算力、中算力和大算力的推理服务， 适用于图像分类、内容推荐、 生产过程统计等典型场景。 b) 中等智算服务： 基于通用模型， 支持针对不同数据规模提供小算力、中算力和大算力的训练和 推理等算力服务，适用于文本分类、命名实体识别、事件提取、错别字检查、精准排产应用、 生产能耗优化、制造质量分析等典型场景。 1) 精准排产应用： 制定各个生产环节日生产计划，提供生产精细化管理服务、资源优化平衡 服务、 生产异常响应服务等。 2) 生产能耗优化： 实时采集车间产线的空调运行数据， 依据人工智能算法结果，自动控制空 调以及车间其它能耗类设备的运行运程。 3) 制造质量分析：包括拧紧大数据失效分析、电池持续低容分析、虚焊预测分析等，采用根 因分析、质量预测等分析组件， 实现工艺结果分析和优化建议。 c) 大模型智算服务： 基于大语言模型（模型参数量在10亿以上），为用户提供通用模型预训练（大 算力）、 行业模型预训练（中算力） 、场景微调训练（小算力） 等，适用于AIGC典型场景。 1) 医疗医药文献摘要提取：针对医学部提交的三类药物警戒临床文献， 准确识别药物警戒的 五要素（可识别的上报人，可识别的患者，怀疑药物，不良反应，相关性描述），抽取并 总结生成完整的综述报告，人工校准后翻译为对应的英文报告，上报至全球总部。 2) 保电大模型服务： 支持根据保电场馆赛事/活动任务生成保电任务目标及策略；通过学习 保电工作涉及到的场馆、线路、保障队伍及物资情况，生成保电预案方案；故障发生时， 可通过大模型生成对应故障级别的处置任务， 并联动下游任务形成执行工单。 3) 政务办事咨询服务： 针对政务服务办理提供专业化的对话式办事咨询，提供群众企业的