2024年面向AI大模型的网络使能技术白皮书-6GANA.pdfVIP

面向AI大模型的网络使能技术

NetworkEnablingTechnologiesforArtificial

IntelligenceLargeModels

目录

摘要3

一、AI大模型发展概述4

（一）发展历程4

（二）发展趋势5

二、网络使能大模型的需求和驱动力6

（一）未来6G网络的通算智融合趋势6

（二）网络使能大模型价值场景7

三、网络使能大模型服务12

（一）数据感知服务13

（二）分布式训练服务14

（三）指令优化服务29

（四）端边云协同推理服务30

（五）模型优化服务36

四、案例分析37

生成式AI在语义通信系统中的应用37

五、未来展望44

六、参考文献45

七、主要贡献单位和编写人员50

摘要

随着大模型和智能体（Artificialintelligenceagent,AIagent）技术的

发展，未来越来越多的工作将被基于大模型的智能体所取代。一方面，由于大模

型对数据和算力的需求巨大，资源受限的终端将难以满足模型训练和推理的需求。

另一方面，未来第六代移动通信（Sixgeneration,6G）网络存在大量低时延

需求的价值场景，例如无人驾驶、虚拟和增强现实等，云端大模型难以满足这些

场景用户的需求。因此，向无线网络寻求算力和数据的支撑将成为大模型时代的

必然。本文介绍了大模型时代下网络使能人工智能（Artificialintelligence,AI）

技术的需求和驱动力，详细阐述了未来6G网络能为大模型提供的AI服务，包

括数据感知、分布式训练、指令优化、端边云协同推理和模型优化等，通过案例

分析说明了相关技术的实践应用，并总结了未来可能的研究方向和所需要面对的

挑战。

一、大模型发展概述

AI

（一）发展历程

随着深度学习技术的应用范围不断拓展和人工智能的快速发展，在大数据、

高算力和强算法等关键技术的共同推动下，以ChatGPT为代表的AI大模型大

量涌现，提供了高度智能化的人机交互体验和极富创造力的内容生成能力，改变

了人们的工作和生活方式，实现了AI技术从“量变”到“质变”的跨越。

AI大模型是指拥有超大规模参数、超强计算资源的机器学习模型，能够处

理海量数据，并完成各种复杂任务。AI大模型的发展可以追溯到20世纪50年

代。此后，从卷积神经网络（CNN）到循环神经网络（RNN），再到Transformer

架构，模型的性能不断提升。总的来说，AI大模型的发展历程主要可以分为四

个阶段，如图1所示。

图1.AI大模型的发展历程

►传统模型（1950-1980）：在AI发展的早期，传统模型主要依赖于简单

的线性回归、逻辑回归等方法。这些模型能够处理分类和回归等基本任务，但在

处理复杂数据和任务时表现有限。

►神经网络模型（1980-2017）：1980年，卷积神经网络的雏形CNN诞

生。2000年代初期，有学者开始研究神经网络模型，开始模仿人脑进行大量数

据的标记和训练，并尝试解决简单的问题，如手写数字识别等。

►Transformer模型（2017-2018）：2017年，Google颠覆性地提出了

基于自注意力机制的Transformer架构，奠定了大模型预训练算法架构的基础。

2018年，OpenAI和Google分别发布了GPT-1与BERT大模型，使得NLP

领域的大模型性能得到了质的飞跃。

►现代AI大模型（2018至今）：2022年，聊天机器人ChatGPT横空出

世，迅速引爆互联网。此后发布的多模态预训练大模型GPT-4，再次引发了生

成式AI的热潮。目前各类大模型正持续涌现，性能也在不断提升。

（二）发展趋势

1.多模态能力提升，应用场景范围扩大

单模态模型通常只能处理一种类型的数据，例如文本、图像或声音，缺乏对

复杂环境的全面理解。而具有多模态能力的AI模型能够同时处理多种类型的数

据，例如将视觉和语言信息相结合，以实现更深层次的理解和交互，并在更广泛

的场景中得到应用。

2.模型轻量化部署，资源需求成本降低