- 0
- 0
- 约9.46千字
- 约 22页
- 2026-01-09 发布于四川
- 举报
基于DeepSeek-R1实现本地/API知识库,并接入微信BOT
接下来我会手把手带大家完成整个知识库搭建过程,包括环境配置、知识库部署、上传资料,还有一些细节调优的小技巧。最后我们再把这个充满知识的AI接入微信机器人,打造一个真正懂你、懂行业的智能小助手!
先来看下效果,这是我上传了一份《人体损伤致残程度分级》资料询问后的结果:
?
DeepSeek-R1部署
DeepSeek?部署有两种方式,一种是本地部署、一种是接入第三方API。
这两种的优缺点:
本地部署
?优点:数据完全私有、长期成本低、响应快
?缺点:吃本地算力、需要配置较高的机器
API调用
?优点:快速接入、免维护、弹性扩展
?缺点:数据需传第三方、长期成本不可控
本地DeepSeek
首先你本机需要确保已经安装?ollama?,并且ollama能正常运行。
DeepSeekAPI
其实我原本打算这篇文章只写本地部署的方式的.....
不过呢,由于DeepSeek网页版最近一直在罢工,我被迫尝试了本地?ChatBox?工具来接入API。没想到体验了一把满血版的R1,爽得飞起!觉得这个方案也很香,所以就顺手把API的方式也写进来。
这里我提供两个平台,大家自行选择接入。
先要获取APIkey,后续我们需要将APIkey填入知识库配置中。
?
火山方舟
官网
/ark
价格
输入:¥2/M?Tokens
输出:¥8/MTokens
进入侧的APIKey管理,创建APIkey
新建秘钥,复制APIkey
硅基流动
硅基流动?官网
/account/ak
价格
输入:¥4/MTokens
输出:¥16/MTokens
进入左侧的API秘钥,点击新建秘钥后复制秘钥
?
知识库
知识库安装
接着我们需要接入知识库,这里使用AnythingLLM这个项目。
?
AnythingLLM是一个开源的大语言模型(LLM)应用框架,旨在帮助用户轻松构建和部署基于私有数据的智能问答、文档分析等应用。
进入AnythingLLM官网并下载安装程序
/
运行安装程序,中间会下载所需要的额外依赖项(GPU、NPG支持)
如果下载失败了,或者是你关闭这个下载窗口跳过了这一步,AnythingLLM还是会成功安装。
这个时候不要担心,可以手动进行安装。
网盘链接中有一个lib压缩包。
解压压缩包,并将解压后的文件夹放入你的安装目录AnythingLLMresourcesollama目录内。
知识库配置
安装完成,进入AnythingLLM界面,这里需要选择一个默认的大模型。
本地配置
如果你使用的是本地部署DeepSeek的方式,向下拉找到Ollama选择即可。
API配置
如果你使用的是第三方API,这一步不需要选择ollama,向下找到GenericOpenAI
GenericOpenAI:
?
通过自定义配置连接到任何兼容OpenAI接口格式的服务。
这里需要填写5个参数
使用硅基流动API:
BaseURL请求地址
/v1
APIkeyAPI秘钥,填写刚才获取的即可
ChatModelName模型名称
Pro/deepseek-ai/DeepSeek-R1
Token?contextwindow(上下文窗口)
4096
MaxTokens(最大tokens数量)
4096或者是8192根据自己情况来
使用火山方舟API:
BaseURL请求地址
/api/v3
APIkeyAPI秘钥,填写刚才获取的即可
ChatModelName模型名称
这里比较特殊,火山方舟模型名称需要填写接入点ID。我们需要去平台上创建接入点。
首先先开通DeepSeekR1的服务
来到在线推理--创建接入点
确认接入
这个ID就是接入点ID,填写这个值即可。
Tokencontextwindow(上下文窗口)
4096
MaxTokens(最大tokens数量)
4096或者是8192根据自己情况来
以上设置完成后,别忘了点SaveChanage保存。
工作区创建
下一步进入这个隐私界面,就是告诉你数据怎么存、怎么用的那些说明书,反正都是套话,直接跳过下一步就可以
这一步是欢迎界面,没啥特别的,直接跳过它
这里创建一个工作区名称,建议使用英文,因为要是后面想用API来调用的话,这个名字可就派上用场了。
现在进入?AnythingLLM?的主界面了。它会用一段示例对话来教你怎么玩
点击左边我们刚才起好名字的工作区,进入新的对话界面。
这里简单对话来测试模型是否调用成功。
工作区设置
点击工作区右侧的设置按钮进入设置界面。
进入聊天设置,我们可以在这里对模型进行细节上的调整
这里是调整当前使用的大模型。默认使用系统设置的
您可能关注的文档
- 突破信息孤岛:Dify为本地化DeepSeek AI助手添加联网搜索.docx
- DeepSeek 实战:三步搞定知识图谱构建 - 单篇提取、多篇融合、主题生成.docx
- DeepSeek 多模态大模型 Janus-Pro 一键安装包,附使用教程.docx
- 面向 OpenAI O1 与 O3-mini 推理模型的提示工程.docx
- 2025至2030中国负载测试工具行业细分市场及应用领域与趋势展望研究报告.docx
- 2025至2030中国钨(VI)氟化物气体市场竞争格局及未来需求趋势分析报告.docx
- 2025至2030中国医用隔离膜产品行业调研及市场前景预测评估报告.docx
- 2025至2030中国铜材市场经营模式分析及竞争趋势预测报告.docx
- 2025至2030中国氙气试验箱行业调研及市场前景预测评估报告.docx
- 2025-2030中国PDLC智能调光膜市场产销需求与竞争前景分析研究报告.docx
- 2025至2030酒店产业政府现状供需分析及市场深度研究发展前景及规划可行性分析报告.docx
- 2025-2030中国笔记本电脑和平板电脑行业市场现状供需分析及投资评估规划分析研究报告.docx
- 2025-2030中国安乃近行业运行形势及竞争策略分析研究报告.docx
- 2025至2030中国医用显示器行业细分市场及应用领域与趋势展望研究报告.docx
- 2025至2030中国飞机加油行业细分市场及应用领域与趋势展望研究报告.docx
- 2025至2030中国电机启动器行业细分市场及应用领域与趋势展望研究报告.docx
- 2025至2030中国帮助创作工具(HAT)软件行业深度研究及发展前景投资评估分析.docx
- 2025至2030增益均衡器行业市场占有率及投资前景评估规划报告.docx
- 2025至2030红茶行业市场风险投资及运作模式与投融资报告.docx
- 2025至2030中国变频功率计行业调研及市场前景预测评估报告.docx
原创力文档

文档评论(0)