- 1、本文档共23页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
5分钟⽤满⾎DeepSeekR1搭建个⼈AI
知识库(含本地部署)
⽼实说,如果你不是为了研究技术,或者确实需要保护涉密数据,我真不建议去折腾本地部
署。
为什么呢?
⽬前Ollama从1.5B到70B都只是把R1的推理能⼒炼到Qwen和Llama的蒸馏版本上。
虽说性能是升了不少,但跟原汁原味的R1模型⽐起来,还是差太多了。
官⽅的满⾎版本可是671B的参数量,说实话,对普通⼈来说想本地部署,这成本确实太⾼
了。
不过我最近发现了⼀个平台,不能⽤上R1本1,还供了不少免费额度。
此外,为了让拥有算⼒的朋友可以本地部署,我也供了相关教程。
看完全⽂,你会收获:
1、满⾎DeepSeekR1模型API搭建⽅式
2、本地部署DeepSeekR1模型搭建⽅式
⼀、个⼈知识库使⽤效果(满⾎版)
来看⼏个使⽤案例:如何借助个⼈知识库⽂件作为外脑,⽤⽅法论指导我们正确做事?
DeepSeek确实很好⽤,但关键还是会不会问。如果不会问,AI再强也帮不上忙。
除了花时间学习⽰词,更快的⽅式是本地备⼀份问指南,让AI指导你该怎么正确问,这
样才能真正发挥它的价值!
AI借助知识库内的DeepSeek指导⼿册,预判了我可能想问的问题,以及建议的正确⽰词格
式。
从回答中可以发现,AI不是依据⾃⾝语料库回复,⽽是基于知识库内容回复。
当然,我们也可以直接问,精准搜索知识库的原始信息,从⽽达到快速查询的效果。
⼆、API搭建知识库
如果本地数据不涉密,还想获得最佳使⽤效果,那肯定得选满⾎的DeepSeekR1模型。
我们来看看怎么利⽤API⽤上满⾎的R1模型(671B)。
1、先下载⼀个叫CherryStudio的软件。
地址:/download
2、登录/注册「硅基流动」,新⽤⼾会赠送2000万Token额度。
地址:/i/TAAOvaXg
3、来到API密钥⽣成界⾯,创建或者复制已有的密钥。
4、来到CherryStudio,配置APIKey。
5、在模型⼴场⾸⻚,排在前两位的就是「硅基流动」和「华为云」合作发布的DeepSeek
R1/V3模型。
如果需要推理能⼒,记得打开并复制R1模型的名称。
6、在模型服务的硅基流动下⽅,添加R1模型。
7、记得点击检查,测试下API是否可以正常访问。
8、现在对话模型有了R1,还缺少⼀个嵌⼊模型。
嵌⼊模型的主要作⽤是将本地⽂件的内容转换成有意义的数字,存储到向量数据库中。
在⽤⼾问时,利⽤RAG技术在数据库中搜索到相似答案,最终回复⽤⼾。
过去我有通俗解释过RAG技术,⼤家如果不了解,可以回头看下:⼀⽂通俗讲透RAG背后的
逻辑,让AI回答更精准!
我们再配置⼀个向量模型:BAAI/bge-m3。如果希望搜索的精准度更⾼,可以选
择Pro/BAAI/bge-m3。
按照同样的⽅式配置到CherryStudio中,这⾥不需要点击检查。
9、在CherryStudio创建知识库,选择刚才配置的嵌⼊模型,这样就会⾃动利⽤对应的模型
来向量化数据。
10、上传本地⽂件进⾏向量化。
如果本地PDF⽂件是扫描件、⼿写件,或者带有复杂的表格和数学公式,解析效果会很差,
甚⾄⽆法解析。
遇到这种情况,建议配合过去我介绍的PDF转结构化⽂档的⽅案来使⽤!!!
这样才可以正常回复知识库的内容:免费AI神器!精准解析PDF还能⼀键翻译!
如果追求性价⽐,推荐使⽤Doc2x:inviteCode=4A6KOD
如果希望更加稳定,那么可以考虑Textin:
/market/detail/pdf_to_markdown
当我们上传⽂件后,箭头指向的图标如图所⽰,则代表向量化成功。
11、测试使⽤,这⼀步添加助⼿,并选择刚配置的满⾎R1模型。
如果不想每次在添加助⼿时选择模型,可以将它设置为默认模型。
我们来测试⼀下,发现DeepSeek已开始深度思考了。
AI回复的答案和原⽂⼀致。
原⽂内容:
三、本地部署搭建知识库
如果只是想简单体验,或者本地算⼒充⾜、希望保护数据安全,那么可以考虑本地部署的⽅
案。
1、访问Ollama官⽅地址:/download,下载软件。
您可能关注的文档
- 13、DeepSeek的使用技巧详解系列专题 - 09.docx
- 09、DeepSeek的使用技巧 详解系列专题- 05.docx
- 03、DEEPSEEK之详解系列专题【做题】.docx
- 02、DEEPSEEK之详解系列专题【文学】.docx
- 01、Deepseek是什么详解系列专题?.docx
- deepseek本地部署,搭建自己的私人知识库.pdf
- 广东省韶关市2025届高三综合测试 (一)(韶关一模)地理试卷+答案.doc
- 广东省汕头市JS中学2024-2025学年高三上学期期中考试地理试卷.doc
- 广东省汕头市JS中学2024-2025学年高三上学期期中考试历史试卷.doc
- 广东省汕头市金山中学2024-2025学年高三上学期期中考试语文试卷.doc
- XX T 1149.11-2010 内燃机 活塞环 第11部分:楔形铸铁环正式版.doc
- XX T 1149.13-2008 内燃机 活塞环 第13部分:油环正式版.doc
- XX T 1149.12-2013 活塞环楔形钢环正式版.doc
- 人教版高中生物必修2全册教学课件.pptx
- 2025年春新北师大版8年级物理下册全册课件.pptx
- 2024年新人教版8年级上册物理全册课件.pptx
- (新统编版)语文三年级下册 第一单元 大单元教学 课件(共9课时).pptx
- 八年级语文下册第六单元24醉翁亭记课件省公开课一等奖新课获奖课件.pptx
- 八年级物理上册第六章质量与密度章末整理与复习习题省公开课一等奖新课获奖课件.pptx
- 外研版三年级英语下册期末复习单词专项.pptx
文档评论(0)