MAC安装和使用ollama运行大语言模型文字教程-教你三步在本地部署DeepSeek-R1（命令行版本）.docxVIP

MAC电脑

本地安装和使用ollama

Ollama是一个开源工具，专门用于在本地计算机上运行和操作大型语言模型（LLM）。它让用户能够轻松下载、管理和运行各种AI模型（如LLaMA、Mistral等），而无需复杂的配置或依赖云服务。

一、安装ollama

1.安装

-访问Ollama的官方网站（https://ollama.ai/），下载适合你操作系统的安装包。

解压网盘里的ollama安装包，

3.安装大语言模型

二、安装chatbox用户界面

Chatbox是一个开源的桌面应用程序，专门用于与大型语言模型（如OpenAI的GPT系列、LLaMA、Mistral等）进行交互。它提供了一个简洁、易用的图形界面，让用户能够轻松地与AI模型对话，而无需编写代码或使用复杂的命令行工具。访问Chatbox网站https://chatboxai.app/zh，下载适合你操作系统的安装包。

三、手动在Ollama中手动导入大语言模型

步骤操作：

1.准备模型文件

确保模型文件是Ollama支持的格式（如GGML、GGUF等），并已下载到本地。

（AIXINSHOU.COM提供的2025年2月更新第三波里面有模型文件）

2.创建Modelfile

在模型文件所在目录下创建一个文件命名为：Modelfile，文件内容如下：

FROME:\models\qwen2.5-7b-instruct-q4_0.gguf

将E:\models\qwen2.5-7b-instruct-q4_0.gguf替换为你模型文件的实际路径。

3.导入模型

在终端中运行以下命令：

ollamacreateqwen2.5-7b-fE:\models\Modelfile

将qwen2.5-7b替换为实际的模型名称，E:\models\Modelfile替换为Modelfile的实际路径。

4.验证导入

导入完成后，使用以下命令验证：

ollamalist

确认模型已出现在列表中。

5.运行模型

使用以下命令运行模型：

ollamarunqwen2.5-7b

将qwen2.5-7b替换为你的模型名称。

注意事项

-确保Ollama已安装并正常运行。

教你三步在本地部署DeepSeek-R1（命令行版本）

上图为本地配置部署建议，部署需根据个人电脑配置选择，以下会以32b的模型为例

第一步，到，点击Download，选择适合自己系统的安装包，下载后直接走安装流程

第二步，点击Models，选择deepseek-r1，进来后我们看到有1.5b/7b/8b/14b/32b/70b/671b几个不同参数的模型可以选。如果你是家用显卡的话（4090，24G显存），70b大概是性能的上限。我们这里以32b的模型为例，选择32b模型，复制右边出现的代码：“ollamarundeepseek-r1:32b”。

第三步，Windows桌面点击左下角的开始，输入cmd，回车后进入命令提示符。把刚才复制的代码“ollamarundeepseek-r1:32b”贴进来回车运行，然后你就可以看到模型的下载进度，耐心等这个模型下载完。

在这里我同时下载了32b和8b两个版本，32b代表了家用机性能的上限；而8b是为了方便和llama3.1:8b/llama3:8b/gemma:7b/phi3:14b做性能对比。

出现success就是下载完了，有时候会因为网络问题下载中断，重新运行一下上面的代码就可以。

以后我们要跑模型的时候，直接输入“ollamarundeepseek-r1:32b”然后回车就可以了。