网站大量收购独家精品文档,联系QQ:2885784924

5 分钟用DeepSeek R1 搭建个人知识库.pdfVIP

  1. 1、本文档共23页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多

5分钟⽤满⾎DeepSeekR1搭建个⼈AI

知识库(含本地部署)

⽼实说,如果你不是为了研究技术,或者确实需要保护涉密数据,我真不建议去折腾本地部

署。

为什么呢?

⽬前Ollama从1.5B到70B都只是把R1的推理能⼒炼到Qwen和Llama的蒸馏版本上。

虽说性能是升了不少,但跟原汁原味的R1模型⽐起来,还是差太多了。

官⽅的满⾎版本可是671B的参数量,说实话,对普通⼈来说想本地部署,这成本确实太⾼

了。

不过我最近发现了⼀个平台,不能⽤上R1本1,还供了不少免费额度。

此外,为了让拥有算⼒的朋友可以本地部署,我也供了相关教程。

看完全⽂,你会收获:

1、满⾎DeepSeekR1模型API搭建⽅式

2、本地部署DeepSeekR1模型搭建⽅式

⼀、个⼈知识库使⽤效果(满⾎版)

来看⼏个使⽤案例:如何借助个⼈知识库⽂件作为外脑,⽤⽅法论指导我们正确做事?

DeepSeek确实很好⽤,但关键还是会不会问。如果不会问,AI再强也帮不上忙。

除了花时间学习⽰词,更快的⽅式是本地备⼀份问指南,让AI指导你该怎么正确问,这

样才能真正发挥它的价值!

AI借助知识库内的DeepSeek指导⼿册,预判了我可能想问的问题,以及建议的正确⽰词格

式。

从回答中可以发现,AI不是依据⾃⾝语料库回复,⽽是基于知识库内容回复。

当然,我们也可以直接问,精准搜索知识库的原始信息,从⽽达到快速查询的效果。

⼆、API搭建知识库

如果本地数据不涉密,还想获得最佳使⽤效果,那肯定得选满⾎的DeepSeekR1模型。

我们来看看怎么利⽤API⽤上满⾎的R1模型(671B)。

1、先下载⼀个叫CherryStudio的软件。

地址:/download

2、登录/注册「硅基流动」,新⽤⼾会赠送2000万Token额度。

地址:/i/TAAOvaXg

3、来到API密钥⽣成界⾯,创建或者复制已有的密钥。

4、来到CherryStudio,配置APIKey。

5、在模型⼴场⾸⻚,排在前两位的就是「硅基流动」和「华为云」合作发布的DeepSeek

R1/V3模型。

如果需要推理能⼒,记得打开并复制R1模型的名称。

6、在模型服务的硅基流动下⽅,添加R1模型。

7、记得点击检查,测试下API是否可以正常访问。

8、现在对话模型有了R1,还缺少⼀个嵌⼊模型。

嵌⼊模型的主要作⽤是将本地⽂件的内容转换成有意义的数字,存储到向量数据库中。

在⽤⼾问时,利⽤RAG技术在数据库中搜索到相似答案,最终回复⽤⼾。

过去我有通俗解释过RAG技术,⼤家如果不了解,可以回头看下:⼀⽂通俗讲透RAG背后的

逻辑,让AI回答更精准!

我们再配置⼀个向量模型:BAAI/bge-m3。如果希望搜索的精准度更⾼,可以选

择Pro/BAAI/bge-m3。

按照同样的⽅式配置到CherryStudio中,这⾥不需要点击检查。

9、在CherryStudio创建知识库,选择刚才配置的嵌⼊模型,这样就会⾃动利⽤对应的模型

来向量化数据。

10、上传本地⽂件进⾏向量化。

如果本地PDF⽂件是扫描件、⼿写件,或者带有复杂的表格和数学公式,解析效果会很差,

甚⾄⽆法解析。

遇到这种情况,建议配合过去我介绍的PDF转结构化⽂档的⽅案来使⽤!!!

这样才可以正常回复知识库的内容:免费AI神器!精准解析PDF还能⼀键翻译!

如果追求性价⽐,推荐使⽤Doc2x:inviteCode=4A6KOD

如果希望更加稳定,那么可以考虑Textin:

/market/detail/pdf_to_markdown

当我们上传⽂件后,箭头指向的图标如图所⽰,则代表向量化成功。

11、测试使⽤,这⼀步添加助⼿,并选择刚配置的满⾎R1模型。

如果不想每次在添加助⼿时选择模型,可以将它设置为默认模型。

我们来测试⼀下,发现DeepSeek已开始深度思考了。

AI回复的答案和原⽂⼀致。

原⽂内容:

三、本地部署搭建知识库

如果只是想简单体验,或者本地算⼒充⾜、希望保护数据安全,那么可以考虑本地部署的⽅

案。

1、访问Ollama官⽅地址:/download,下载软件。

文档评论(0)

喵嘹咯咪 + 关注
实名认证
文档贡献者

二级建筑师持证人

喵嘹咯咪

领域认证该用户于2024年09月11日上传了二级建筑师

1亿VIP精品文档

相关文档