数字化治理智算运维发展研究报告（2024）-CAICT.docxVIP

智算运维发展研究报告

(2024)

eOgnoi------------prat

e

O

g

n

o

i

------------

nitu

n

i

t

u

pm

p

m

oC

o

C

tn

t

n

eg

e

g

ill

i

l

l

ten

te

n

I

I

→

中国移动通信集团有限公司科大讯飞股份有限公司

华为技术有限公司

中国通信标准化协会数字化内控与审计标准推进委员会TC628

参编单位:

参编单位:

中国移动通信集团有限公司科大讯飞股份有限公司

华为技术有限公司

中国通信标准化协会数字化内控与审计标准推进委员会TC628

参编人员:

白瀚雄、白璐、鲍中帅、蔡旭辉、常悦、陈曦、黄刚、黄花、金达明、李海东、李鹏、梁丰、刘静、刘鹏飞、刘昭炜、卢甘禹、罗军、罗俊杰、牛晓玲、潘凌、

彭洋洋、秦亚庆、汪海龙、吴婷、武仪、谢洪涛、徐恩松、杨玲玲、叶荣春、张健—、张磊、张铁山、张骁、赵建波、赵宇、郑卿、周守杰、周逸飞

(按照姓名全拼排序)

前言

随着数字经济的蓬勃发展,人工智能技术已成为推动各行业变革的核心力量。智算中心作为承载人工智能应用的关键基础设施,其规模与复杂性呈指数级增长。多样化的智能场景需要多元化的算力,以AlGC(ArtificiaIlnteIIigenceGeneratedContent,生成式人工智能)为代表的人工智能应用、大模型训练等新应用、新需求的快速崛起都对运维保障提出了更高要求。大规模算力集群运维自动化面临着算力使用效率、故障管理难度、资源监控精度、资源需求匹配难度、全局可观测性和运维沉没成本等多方面的挑战。企业亟需通过健全智算运维体系、规范智算运维指标、建立跨部门协作机制等方式,进—步保障智算运维的高可用性和高可靠性。

本报告旨在全面剖析智算运维的现状与挑战,详细阐述智算运维的关键技术与实践经验,为智算中心运维标准的构建提供理论指导。我们将深入探讨如何构建高效、智能、可靠的智算运维指标体系,以应对日益增长的人工智能计算需求,助力企业在数字化转型浪潮中充分释放人工智能的潜力,实现创新与发展的双赢。无论是智算中心的运营者、人工智能的从业者,还是关注数字基础设施建设的各界人士,都将从本报告中获取有价值的洞察与启示,共同推动智算运维领域的进步与发展,为人工智能时代的到来奠定坚实的运维基石。

C0NTENTS目录

01我国智算服务发展概述 1

1.1国家政策助力智算经济大发展 1

1.2智算服务的技术和理念 3

1.3智算服务的意义 4

02智算运维服务的挑战与需求 6

2.1智算运维的挑战 6

2.2智算运维的需求 9

03智算运维的能力构建 11

3.1标准化运维流程 11

3.2智能化运维平台 12

3.3组织与人才体系 12

3.4运维知识持续沉淀 13

04智算运维质量评价指标体系建设 14

4.1指标设计原则 14

4.2指标模型构建 14

05智算运维未来的发展趋势 18

趋势—:智算服务正成为综合算力发展的关键要素 18

趋势二:—体化智算运维将成为主流 18

趋势三:液冷技术助力智算行业绿色低碳发展 19

趋势四:算力资源—体化调度将成为趋势 19

趋势五:数据安全重要性日益凸显 19

06智算运维最佳实践 20

6.1中国移动智算运维最佳实践 20

6.2科大讯飞智算运维最佳实践 25

01

我国智算服务发展概述

1.1国家政策助力智算经济大发展

近年来,新—代人工智能快速发展,智算需求快速增长,智算基础设施和智算服务的发展质量已成为影响国家竞争力的关键因素之—。习近平总书记强调,要加快新型基础设施建设,加强战略布局,加快建设高速泛在、天地—体、云网融合、智能敏捷、绿色低碳、安全可控的智能化综合性数字信息基础设施,打通经济社会发展的信息“大动脉”。

各部委和地方政府出台多份鼓励政策,支持智算经济高速发展。2023年10月,工业和信息化部等六部门发布《智算基础设施高质量发展行动计划》,计划提到“以构建现代化基础设施体系为目标,面向经济社会发展和国家重大战略需求,稳步提升算力综合供给能力,着力强化运力高效承载,不断完善存力灵活保障,持续增强算力赋能成效,全面推动算力绿色安全发展,为数字经济高质量发展注入新动能。2024年5月,国家发改委、国家数据局、财政部、自然资源部联合印发《关于深化智慧城市发展推进城市全域数字化转型的指导意见》,意见指出“统筹推进城市算力网建设,实现城市算力需