徐瑶-图和向量融合技术在大模型架构的应用和探索.pdfVIP

图与向量融合技术在大模型 架构的应用和探索 Fabarta 研发专家 / 徐瑶 目录 • 向量技术 • 大模型下场景应用 • 图与向量融合架构 • 挑战展望 Vector Embedding 将数据映射到多维向量空间，将数据进行向量化 0.81 0.21 0.3 … 0.46 0.27 0. 1 0.11 … 0.21 0.01 0.23 0.10 … 0.8 0.21 0.34 0.55 … 0.41 0.23 0.54 0.8 … 0.05 0.81 0.34 0.0 … 0.11 非结构化数据 神经网络 特征向量 Vector Distance Measures 欧式距离 余弦相似度 汉明距离 杰卡德相似系数 Euclidean Distance Cosine Similarity Hamming Distance Jaccard similarity coefficient The number of values that are different between two vectors Vector Search 最近邻搜索 （Nearest Neighbor Search, NNS） 指在一个确定的距离度量方法和搜索空间内寻找与 目标向量距离最小的向量 海量向量数据，高效向量检索 FLAT （暴力搜索） 适用于数据量小，且需要精准匹配的场景 Vector Search 近似最近邻搜索 （Approximate Nearest Neighbor Search, ANNS） 一种通过牺牲精度来换取时间和空间的方式从大量样本中获取最近邻的方法 基于图 基于量化 基于树 基于哈希 NSG，HNSW PQ 优点：查询效率高，召回率高 优点：查询效率高，容量高 KD-Tree，Ball-Tree，Annoy LSH 缺点：内存消耗高 缺点：召回率参数配置困难 适用：百万数据量级别 适用