2024-1-9-英伟达 LLM day专题资料.pdf

利用GPU加速Milvus赋能LLM应用

讲师介绍

李成龙

开源布道师

西安交通大学

chenglong.li@

目

录

01Milvus架构演进及功能介绍

02基于NVIDIAGPU加速Milvus获取10倍性能提升

03应用分享：RAG知识库+推荐系统

01

Milvus架构演进及功能介绍

什么是Milvus

什么是Milvus

•VectorDatabase

/en/ranking

•LinuxAIDataFoundationGraduationProject

https://lfaidata.foundation/projects/milvus/

•Githubopensourceproject（20000+stars）

/milvus-io/milvus

Milvus演进历程

2018.10201.04201.06201.10

Milvus

st

1SeedOpen

TheIdea0.1

UserSource

Release

2020.032021.032022.022022.072022.112023.08

JoinedMilvus1.0Milvus2.0Milvus2.1Milvus2.2Milvus2.3

LFAIReleaseReleaseReleaseReleaseRelease

Milvus用户生态

Milvus被全球超过5000家企业用户所信赖，超过1000万次下载和安装，最大库规模超过20亿条向量

MilvusGithubStar数目超过2.3万，贡献者人数超过200

Milvus在SIGMOD和VLDB等数据库顶会上发表了论文，奠定了向量数据库的基础

Milvus-全球第一款开源向量数据库

云原生分布式超高性能

CloudNativeBlazingFast

•百亿规模向量扩展性

•查询速度高于ES10倍，高于主流竞品2倍

•存储计算分离