DeepSeek V3搭建个人知识库教程.pdf

DeepSeek
V3搭建个⼈知识库教程

DeepSeekAI知识库AnythingLLM

为什么需要私⼈AI知识库

是不是厌倦了LLM⼀本正经的答⾮所问、套话...等低效的信息检索。

私有知识库在前AI时代就有⾮常多使⽤场景，尤其是企业内部知识、个⼈知识库等。结合⼀个优秀的

LLM之后，能够让知识检索和归纳上升⼀个台阶。

⼩⽩快速搭建个⼈AI知识库

个⼈AI知识库的⽅案有很多种，今天介绍⼀种难度很低且知识检索效果不错的⽅案：

AnythingLLM+DeepSeekV3。

•AnythingLLM
是⼀个知识库管理前端⼯具，⽀持上传知识、向量化数据、RAG（检索增强）⼀条

⻰服务，⽽且是开源免费的。

•DeepSeekV3（简称DS）是幻⽅量化的⼤模型，总体评分和Cladue3.5不相上下，⽽且Token⾮常

便宜，本次⽅案使⽤DS作为推理模型。

（AnythingLLM还⽀持其他推理模型，如GPT、Claude或者ollama运⾏本地开源模型等）

⼀、安装AnythingLLM

1.下载地址：/，⽀持windows、mac、Linux系统。

2.打开软件，先设置LLM，这⾥选DeepSeek，模型选择chat（也就是最新的V3模型）。API
Key可以

去它们官⽹注册下，充值⼏块钱就够⽤了。

3.进⼊⼯作区，可以在左下⻆设置按钮中进⾏基础配置，如：LLM、嵌⼊模型、向量数据库选择等，新

⼿可以先保持默认设置。

（这⾥单独提下Embedding模型，Embedding是将⾼纬度数据嵌⼊低纬度空间⽅便存储，模型性能影

响对后续知识检索有挺⼤影响，建议可以换成bge-m3，这个模型对多语⾔和⻓⽂本都⽀持的不错，需

要本地运⾏Ollama加载这个模，由于需要安装Ollama，新⼿可以跳过这⼀步）。

⼆、上传⽂档

1.上点击⼯作空间的上传按钮，打开上传

2.⽀持上传pdf、csv、⾳频或者抓取⽹⻚内容等等。上传后右键加⼊⼯作空间就ok了。

3.也可以在Data
Connnector中获取youtube（需要有cc字幕）视频、confluence⽂档库等内容平台的

数据。

三、知识检索问答

1.在⼯作区点击new
thread可以开启新的对话，然后提问就ok了

2.如果想判断LLM回答的知识范，可以在回答的底部点开：Show
Citations就能看到引⽤了哪些知

识。

AnythingLLM是⼀个很强⼤的知识库管理⼯具，新版本还提供了Agent模式，可以接⼊⾕歌、bing等搜

索引擎，实现实时搜索增加检索的时效性。