《Gartner AI原生云加速指南》.docx

人工智能原生云构建与加速核心能力指南

目录

背景

从AI云到原生AI云：云服务的比较分析平台能力需求

面对原生AI云的挑战AI加速而生：腾讯云（AI原生）全景分析云平台架构能力

l 基础设施层加速计算

网络和边缘加速存储加速

l 模型库

l 工程工具层

部署和微调加速内容质量管理

数据处理效率提升发展提升

l 应用层

l 全栈式安全解决方案结论

关于腾讯云

参考材料

背景

在人工智能时代，我们正处于一场非凡的技术革命之中。这一深刻的转变，以其动态的势头和重大影响，正在重塑全球商业格局和社会进步。随着人工智能创新的快速发展，它们正在渗透到决策、创新和价值创造的各个领域，成为社会进步的关键驱动力。跨国公司、初创企业、成熟的研究中心和个别先驱者alike都不可避免地被这场由人工智能驱动的变革浪潮所席卷。

全球科技格局随着在大型语言模型、语音模型和视频模型等领域的突破而跳动着创新的脉搏，这些突破不断推动人工智能技术的边界。这种竞争动力不仅激发出新想法，还推动着各行各业持续的能量波。人工智能技术的演化和集成使得技术提供商能够完善和提升他们的产品，加强他们的竞争地位。例如，独立软件供应商（ISVs）越来越多地将人工智能功能融入到他们的产品中，以在这个变革时代确立自己的地位。正如Gartner在《CTO的生成式人工智能技术景观指南》中预测的那样：“到2026年，超过70%的独立软件供应商

（ISVs）将在其企业应用中嵌入生成式人工智能（GenAI）功能，这比目前的不到1%有大幅增加。”

生成式人工智能已成为商业领域的颠覆性力量，吸引了全球各行各业高管们的关注。其关键优势在于自动化决策过程和内容创作，通过提高效率和增加价值来革新商业运营。正如Gartner在《CTO的生成式人工智能技术景观指南》中所预测：“到2026年，超过80%的企业将使用生成式AIAPI、模型，或在其生产环境中部署了生成式AI赋能的应用程序，这一比例将从今天的不到5%显著增加。”

所有这些变化标志着人工智能原生时代的强劲开端。在这个阶段，大型语言模型（LLMs

）将作为基础技术，推动现有应用的显著转型，并催生全新的应用类别。Copilot和AIAgent的引入是这一转变的强烈证据。

在不久的将来，托管在云上的大多数应用程序将平稳过渡到AI原生应用。

AI原生应用依赖于AI原生云，这促使云服务持续进化以满足AI原生时代的需求。下一代AI原生云解决方案将赋予IT领导者精细调整在这个转型时代价值、成本和风险之间微妙平衡的能力，使他们能够自信地与当前趋势保持一致并引领行业进步。

从人工智能云到AI原生云：云平台能力要求比较分析

我们激动地见证了从AI云到AI原生云的转变，这标志着云计算功能的重大飞跃。新兴的AI原生云不仅仅是一个技术进步，它还成为了推动用户业务转型和创造力的核心力量。AI原生云无缝地将AI技术嵌入到云计算服务的各个方面，为用户提供更智能和自动化的服务。此外，AI原生云优先考虑开放性和生态系统培养。通过提供强大的API和SDK，它为第三方开发者营造了一个动态的环境，以促进尖端AI原生服务和应用的创造。

图1：从云AI到AI原生云的转变

以下概述了增强能力的必要性：

涵盖性以实现更广泛的参与：在过去，人工智能技术仅限于特定的行业和用户群体。然而，随着AI原生技术的出现，通过大型语言模型（LLMs）解锁了广泛的技能，使不同行业中的用户广泛参与成为可能。云平台必须具备可扩展的架构，以有效地适应这一多元化的参与者格局。建立一个稳健的框架对于满足各种规模和需求的用户至关重要，确保云生态系统中的每位用户都能获得定制的解决方案。

精通训练大型语言模型：此前，人工智能模型的参数量通常在数亿范围内。随着AI原生时代的到来，模型参数量发生了巨量增长，达到了数十亿、数百亿，甚至万亿级别。云平台必须具备管理这种前所未有的训练任务规模的能力。对于它们来说，不断优化计算资源以满足日益增长的计算需求，同时保持最佳效率和成本效益，至关重要。

多模态支持。过去，用户主要利用单一模态模型，如语言模型、语音模型和视频模型

。在AI原生时代，整合并理解多种数据模态的多模态模型将增强功能并应用于更广泛的应用场景。

加强多模态检索功能：在过去，用户主要依赖于结构化数据。然而，随着嵌入技术、多模态特性和AI原生时代向量化的出现，文档、音频、图像和视频等非结构化数据现在正被有效利用。云平台必须提供强大的跨模态检索能力，以支持这一数据利用方式的转变。

简化集群调度：在AI原生时代，随着模型参数激增，单机训练显得不足。云平台必须支持集群调度，以容纳数千甚至数万个GPU来满足大型语言模型（LLM）训练的基本需求

。集群调度系统