⾯向⽣成式AI的向量数据库：架构，性能与未来趋势.docx

面向生成式Al的向量数据

库：架构，性能与未来趋势

高超/Zilliz工程师

DataFunSummit#2024

高超

zilliz工程师

毕业于上海交通大学，在向量数据库和大数据引擎有一定经验，目前在zilliz主要负责索引引擎的优化

D向量数据库背景介绍DMilvus整体架构设计D性能的关键-索引

D面向AI持续进化

zilliz

01

向量数据库背景介绍

zilliz什么是向量数据

V1,1V1,2...V1,nV?,1V?,2...V?,n

V3,1V3,2..V3,n

o=0

Vn,1Vn,2...Vn,n

UnstructuredDeeplearningEmbedding

datamodelsvectors

什么是向量检索

[0.34,2.35,8.34,….]

300dimensions

·找到离查询向量最近的K条向量(TopK)

Chicken………

Wolf……Dog…

Wolf……

Dog………

Banana

Cat…-

Query:KittenApple·怎么计算距离取决于模型定义使用怎样的Metric,常见的有L2,IP

Query:Kitten

Apple

Cosine等

米zilliz

什么是向量数据库

·向量数据库是一种专为存储和查询高维度向量数据而优化的数据库系统

Queryresults

Application

Unstructured

UnstructuredData

EmbeddingModel01o011001

EmbeddingModel

VectorEmbedding

VectorDatabase

为什么需要向量数据库

·Al1.0时代，向量数据库已经被广泛应用于机器学习应用中，包括推荐系

统，搜索，风控，安防等系统中。现在仍然是重要的使用场景

回搜狗搜索

回搜狗搜索

图片视须搞笑信知手美女网页新同首页图说新闻明

图片视须搞笑

信知手美女

网页新同

首页图说新闻

壁纸明星家居汽车LOFTER全景视觉

该图片可能是：榴莲酥图片尺寸

该图片可能是：榴莲酥

图片尺寸：564x845

白榴莲酥源自泰国，属于泰国最地道的特产。榴莲酥以新鲜福莲果肉配制的软滑馅心，配以层次分明、异常松化、做工精细的酥皮，令人食指大动，吃完后淡淡的榴莲味让人“榴莲”忘返。

查看百科详情

相似图片

为什么需要向量数据库

·RetrievalAugmented

Domain-specificknowledge(docs,videos,imagesetc.)ExternalknowledgeistranformedintoGeneration(RAG),

Domain-specificknowledge

(docs,videos,imagesetc.)

Externalknowledgeistranformedinto

vectorembeddingsandstoredinZillizCloud

|Prompt

|Prompt

Answerthequestionusingtheadditionalcontext:

{UserQuestion}

{RetrievedDoc1}{RetrievedDocn}

zilliz

theLLMO-Answers|UsersQuestiono—→VectorDatabase

theLLMO-Answers

|UsersQuestiono—→

Vector

Database

User

TraditionalwaytomakequeriestoanLLM

米zilliz

什么是一个好的向量数据库

·性能

·扩展性·易用性·功能

·可观测可运维

·生态集成·故障恢复·安全

...·

...

Milvus整体架构设计

云原生的分布式向量数据库

·Proxy:接入层，负责请求编译，检查和路由

SDKAPI

·Query:负责数据/索引的加载和查询

CoordinatorServic