PingCAP（姚维）：Gen AI时代趋势中的TiDB.pdf

GenAI时代趋势中的TiDB

演讲人：姚维

目录

CONTENTS▶012024应用开发趋势展望

02AI应用与探索的旅程

03向量搜索浅谈

04SQL+Vector的挑战

2024应用开发趋势展望

●Riseofthebuilders(X-as-a-Service)

●PlatformEngineering

●AI-AugmentedDevelopment

●DemocratizedGenerativeAI

●IntelligentApplications

●Full-stackJavaScript

●Edgefunctions

●JavaScript-friendlyServerlessplatform

●聚焦业务逻辑，越来越多模块被接管

●全栈单语言-小团队能实现更多

2024应用开发趋势展望

2024应用开发趋势展望

2023TiDBHackathon一个真实的例子

●用上所有上述的Service和AI

●一个程序员就可以短时间内完成一个复杂的

应用程序

○开发

○测试

○发布

●在以前，这不可想象！

2024应用开发趋势展望

AI应用与探索的旅程

AI应用与探索的旅程

●从最基础的Prompt

Engineering开始

●刚开始Text2Query的效果还不

错

●问题很快出现：

○准确性达到瓶颈，～50%

○无论如何调整Prompt，都

会带来副作用，影响其他语

句

AI应用与探索的旅程

LanguageModelsareFew-Shot

Learners

AI应用与探索的旅程

●gpt-3.5-turbo支持4,096tokens

●gpt-4-0125-preview支持到128,000tokens

●Prompt不能囊括所有的知识和例子

●无法确定问题和Prompt上下文之间的关联度

WhatisEmbeddingandVector?

WhatisEmbeddingandVector?

●Distance

○CosineDistance

○SquaredEuclidean(L2Squared)

○Manhattan(L1)

○DotProduct

●三维向量距离计算，可以类推到高维向量

WhatisEmbeddingandVector?

●文档和自己的私有数据变成Vector以后

●可以通过Similirity计算，能搜索得到语义相近的对象

●例如：

○Q最新的气候变化报告

○Chunks