实用文件-本地部署deekseek.doc

本地部署deepseek大模型

/library/deepseek-r1:1.5b

Deepseek实战

本地部署0成本使用高级推理

Openwebui

/open-webui/open-webui

docker?run?-d?-p?3000:8080?--add-host=ernal:host-gateway?-v?open-webui:/app/backend/data?--name?open-webui?--restart?always?ghcr.io/open-webui/open-webui:main

第-步:打开/

第二步:点击Download-选择操作系统安装文件

第三步:点击左上角Models-选择deepseek-r1

第四步:根据现有配置选择小参数模型-ollama客户端内输入需要下载的模型(ollamarundeepseek-r1:1.5b)或者其他大小

win+RCMD粘贴ollamarundeepseek-r1:1.5b

联网OLLAMA设置

变量名OLLAMA_HOST变量值

变量名OLLAMA_ORIGINS变量值*

第二步ollamaserver

常用命令ollamahelp

?Ollama命令大全?包括以下常用命令及其功能：?12

?启动Ollama服务?：输入ollamaserve即可启动Ollama服务。

?创建模型?：使用ollamacreate/path/to/Modelfile命令从模型文件创建新模型。

?显示模型信息?：通过ollamashowmodel_name查看特定模型的详细信息，例如模型名称、版本等。

?运行模型?：输入ollamarunmodel_name即可运行已安装的模型。

?从注册表中拉取模型?：使用ollamapullmodel_name从模型注册表中拉取所需的模型。

?推送模型到注册表?：通过ollamapushmodel_name将本地模型推送到模型注册表中。

?列出模型?：使用ollamalist查看本地所有可用的模型列表。

?复制模型?：通过ollamacpold_modelnew_model命令复制一个模型到另一个位置或给定名称的地方。

?删除模型?：使用ollamarmdeepseek-r1:latest删除已安装的模型。

?查看版本?：显示当前Ollama工具的版本信息，使用ollama--version或ollama-v。

?获取帮助信息?：使用ollamahelp获取Ollama命令或任何具体命令的帮助信息。

这些命令涵盖了Ollama的主要使用场景，用户可以根据自己的需求来管理和运行模型。

下载运行库，然后下载模型，这个模型1.1G普通电脑也能用

如果GPU不计算

/s?id=1752004062694600177wfr=spiderfor=pcqq-pf-to=pcqq.group

CudaTookit的安装官网/cuda-toolkit-archive?spm=5176.2810349e33da2H7ktW7

/orgs/nvidia/collections/deepstream_sdk

CUDNN下载

/rdp/cudnn-archive

myaniu520

/compute/cudnn/secure/8.9.7/local_installers/12.x/cudnn-windows-x86_64-9_cuda12-archive.zip?__token__=exp=1738995328~hmac=3b26228ae79ab483b015bd4e01572c1bad2d8a05df169e5e2bc259b2ddc8fb34t=eyJscyI6IndlYnNpdGUiLCJsc2QiOiJkZXZlbG9wZXIubnZpZGlhLmNvbS9jdWRhLXRvb2xraXQtYXJjaGl2ZSIsIm5jaWQiOiJlbS1ldmVuLTgwMDg3NyJ9

C:\Users\Administrator

https://chatboxai.app/zh/install?download=win64对话界面软件用他

https://chatboxai.app/zh/help-center/connect-chatbox-remote-ollama-service-guide

Deepseek与VSCOde的离线集合

在本地VSCODE搜索Continue

搜索后安装Continue插件，点autodetect选择+addchamodel

工具

/article/wiki/QlvMww0qriUX0qkZV