释放算力潜能Serverless+Al让应用开发更简单.pdfVIP

释放算力潜能，

Serverless+AI让应用开发更简单

报告人：王仁达阿里云智能

2025年6月

Serverless在解决什么问题

Serverless目标和策略

灵

成本目标效率目标

活

•按需付费，降低用户成本，•简单，易用，减少发布/扩容

定

极制提供产品竞争力时间，提升发布/扩容的效率

简

运•通过不断的优化资源供给能力：降低用户保有资源的成本，提

维按需付高资源利用率，降低资源使用成本；

费

•通过不断的加强和云产品及周边生态的集成，降低用户业务构

建的门槛，减少业务发布和扩容运维时间，提升业务效率；

•平台及体验能力升级：事件驱动，云服务集成，流程编排，应用模版，计费优化，观测能力集成

AI应用基本要素

Serverless擅长领域

门槛高、迭代快，效果好，低成本1大模型2领域模型开箱即用、一键托管、可观测完备、低成本

AI应用

开箱即用、快速迭代、灵活可定制、低成本3业务逻辑基本要素4领域抽象领域适配、业界标准、活跃生态

性能、成本、稳定、安全、体验5BaaS服务6流程编排流程引擎，工具生态，广泛集成

模型服务+ServerlessGPU实现降本增效

行业痛点

•开源/微调模型做成镜像有门槛，vLLM/SGLang

等框架选择困难行业痛点

•商业模型按token计费贵且有速率限制，不自

•高峰流量大、资源成本高、运维管理复杂

主可控

•冷启动延迟高，系统调度、镜像拉取、模型加载、

平台价值模型服务Serverless首推理

GPU

•快速托管：主流模型一键部署，自定义模型下平台价值

载加速快速托管

•负载感知调度、资源池化，实现更高的弹性和资

•框架封装：vLLM/SGLang/Ollama/Hugging

源利用率

FaceTransformers实现推理加速、轻量化部