AI中台设计方案.pdfVIP

1.1AI 中台 AI 中台具备虚拟化异构算力和弹性扩缩容能力，可以实现模型一键部署、自动 调整弹性计算资源、多模型支持、版本管理和 CPU/GPU 推理加速镜像等功能。为 用户提供模型编排、模型服务配置、数据接入、设备接入、数据模型管理支撑等能 力。 其中，虚拟化异构算力、CPU/GPU推理加速镜像由资源组管理功能提供，弹性 扩缩容能力、自动调整弹性计算资源由在线推理功能提供，模型一键部署、多模型 支持、版本管理由模型服务配置提供。由 AI 工作室提供模型编排能力，算法仓库 提供模型服务配置能力，数据中心提供数据接入和数据模型管理能力，设备中心提 供设备接入能力。 1.1.1应用支撑 AI 中台提供模型推理能力，经过模型分析后的结果需要返回给调用系统，应用 支撑模块提供多种结果订阅方式，并且将以图搜图作为标准应用预置在平台内。 1.1.1.1应用工作台 应用工作台作为智能应用呈现的窗口，汇聚了基于平台开发的应用的入口，包 括官方内置的应用以及客户自开发的应用。通过应用工作台作为应用入口好处之一 是和平台共用一套账号体系、共用一套权限体系。无需应用系统层再单独维度账号 权限模块。除了给应用开发者提供API 接口可以快速获得AI 能力，平台还提供最 直接的可体验可使用的AI应用系统，比如综合图像搜索