基于DeepSeek-R1实现本地API知识库,并接入微信BOT.docxVIP

  • 0
  • 0
  • 约9.46千字
  • 约 22页
  • 2026-01-09 发布于四川
  • 举报

基于DeepSeek-R1实现本地API知识库,并接入微信BOT.docx

基于DeepSeek-R1实现本地/API知识库,并接入微信BOT

接下来我会手把手带大家完成整个知识库搭建过程,包括环境配置、知识库部署、上传资料,还有一些细节调优的小技巧。最后我们再把这个充满知识的AI接入微信机器人,打造一个真正懂你、懂行业的智能小助手!

先来看下效果,这是我上传了一份《人体损伤致残程度分级》资料询问后的结果:

?

DeepSeek-R1部署

DeepSeek?部署有两种方式,一种是本地部署、一种是接入第三方API。

这两种的优缺点:

本地部署

?优点:数据完全私有、长期成本低、响应快

?缺点:吃本地算力、需要配置较高的机器

API调用

?优点:快速接入、免维护、弹性扩展

?缺点:数据需传第三方、长期成本不可控

本地DeepSeek

首先你本机需要确保已经安装?ollama?,并且ollama能正常运行。

DeepSeekAPI

其实我原本打算这篇文章只写本地部署的方式的.....

不过呢,由于DeepSeek网页版最近一直在罢工,我被迫尝试了本地?ChatBox?工具来接入API。没想到体验了一把满血版的R1,爽得飞起!觉得这个方案也很香,所以就顺手把API的方式也写进来。

这里我提供两个平台,大家自行选择接入。

先要获取APIkey,后续我们需要将APIkey填入知识库配置中。

?

火山方舟

官网

/ark

价格

输入:¥2/M?Tokens

输出:¥8/MTokens

进入侧的APIKey管理,创建APIkey

新建秘钥,复制APIkey

硅基流动

硅基流动?官网

/account/ak

价格

输入:¥4/MTokens

输出:¥16/MTokens

进入左侧的API秘钥,点击新建秘钥后复制秘钥

?

知识库

知识库安装

接着我们需要接入知识库,这里使用AnythingLLM这个项目。

?

AnythingLLM是一个开源的大语言模型(LLM)应用框架,旨在帮助用户轻松构建和部署基于私有数据的智能问答、文档分析等应用。

进入AnythingLLM官网并下载安装程序

/

运行安装程序,中间会下载所需要的额外依赖项(GPU、NPG支持)

如果下载失败了,或者是你关闭这个下载窗口跳过了这一步,AnythingLLM还是会成功安装。

这个时候不要担心,可以手动进行安装。

网盘链接中有一个lib压缩包。

解压压缩包,并将解压后的文件夹放入你的安装目录AnythingLLMresourcesollama目录内。

知识库配置

安装完成,进入AnythingLLM界面,这里需要选择一个默认的大模型。

本地配置

如果你使用的是本地部署DeepSeek的方式,向下拉找到Ollama选择即可。

API配置

如果你使用的是第三方API,这一步不需要选择ollama,向下找到GenericOpenAI

GenericOpenAI:

?

通过自定义配置连接到任何兼容OpenAI接口格式的服务。

这里需要填写5个参数

使用硅基流动API:

BaseURL请求地址

/v1

APIkeyAPI秘钥,填写刚才获取的即可

ChatModelName模型名称

Pro/deepseek-ai/DeepSeek-R1

Token?contextwindow(上下文窗口)

4096

MaxTokens(最大tokens数量)

4096或者是8192根据自己情况来

使用火山方舟API:

BaseURL请求地址

/api/v3

APIkeyAPI秘钥,填写刚才获取的即可

ChatModelName模型名称

这里比较特殊,火山方舟模型名称需要填写接入点ID。我们需要去平台上创建接入点。

首先先开通DeepSeekR1的服务

来到在线推理--创建接入点

确认接入

这个ID就是接入点ID,填写这个值即可。

Tokencontextwindow(上下文窗口)

4096

MaxTokens(最大tokens数量)

4096或者是8192根据自己情况来

以上设置完成后,别忘了点SaveChanage保存。

工作区创建

下一步进入这个隐私界面,就是告诉你数据怎么存、怎么用的那些说明书,反正都是套话,直接跳过下一步就可以

这一步是欢迎界面,没啥特别的,直接跳过它

这里创建一个工作区名称,建议使用英文,因为要是后面想用API来调用的话,这个名字可就派上用场了。

现在进入?AnythingLLM?的主界面了。它会用一段示例对话来教你怎么玩

点击左边我们刚才起好名字的工作区,进入新的对话界面。

这里简单对话来测试模型是否调用成功。

工作区设置

点击工作区右侧的设置按钮进入设置界面。

进入聊天设置,我们可以在这里对模型进行细节上的调整

这里是调整当前使用的大模型。默认使用系统设置的

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档