1. 为什么要在Mac上部署Ollama和DeepSeek?

如果你是一名开发者或者对AI技术感兴趣,想要在本地运行大语言模型,Ollama绝对是一个值得尝试的工具。它就像一个轻量级的"模型管家",能帮你轻松管理各种开源大模型。而DeepSeek作为国内顶尖的开源大模型之一,在代码生成、数学推理等方面表现优异。

在Mac上本地部署有几个明显优势:

  • 隐私保护:所有数据都在本地处理,不用担心敏感信息泄露
  • 离线可用:没有网络也能使用AI能力
  • 定制自由:可以随意调整参数,不受云端API限制
  • 成本节约:长期使用比订阅云端服务更经济

我实测下来,在M1/M2芯片的MacBook上运行7B版本的DeepSeek,响应速度相当流畅,日常编程辅助完全够用。

2. 安装Ollama

2.1 下载安装包

首先访问Ollama官网(https://ollama.com),你会看到一个简洁的下载页面。Mac用户直接点击"Download for macOS"按钮,这会下载一个约200MB的安装包。

提示:如果下载速度慢,可以尝试用命令行下载:

curl -OL https://ollama.com/download/Ollama-darwin.zip

2.2 安装过程

下载完成后,你会得到一个名为Ollama-darwin.zip的压缩包。解压后把Ollama应用拖到"应用程序"文件夹就完成了一半安装。

双击打开Ollama,系统会提示你确认安装。这里需要输入管理员密码,因为Ollama会:

  1. 安装命令行工具
  2. 创建后台服务
  3. 添加到开机启动项(可取消)

安装完成后,你会在菜单栏看到一个小羊驼图标,这表示Ollama正在后台运行。

2.3 验证安装

打开终端(Terminal),输入以下命令检查是否安装成功:

ollama --version

如果看到版本号输出(比如0.5.7),说明安装正确。

3. 下载和运行DeepSeek模型

3.1 选择适合的模型版本

DeepSeek提供了多个规模的模型,从1.5B到671B参数不等。对于Mac用户,我建议根据设备配置选择:

模型版本所需内存适合设备
1.5B~1.1GB入门级Mac
7B~4.7GBM1/M2 16GB内存
14B~9GBM1/M2 Pro 32GB内存
32B~20GBM1/M2 Max 64GB内存

我自己的M1 Pro 16GB跑7B版本很流畅,日常编程辅助完全够用。

3.2 下载模型

在终端运行以下命令下载模型(以7B为例):

ollama pull deepseek-r1:7b

下载过程可能会持续几分钟到几十分钟,取决于你的网速。有几个实用参数可以加速下载:

  • --verbose:显示详细下载进度
  • --insecure:跳过SSL验证(不推荐)

注意:如果下载中断,重新运行相同命令会继续下载,不用担心从头开始。

3.3 运行模型

下载完成后,用这个命令启动交互式会话:

ollama run deepseek-r1:7b

你会看到类似这样的提示符:

>>> 

现在就可以直接输入问题或指令了!比如问它:"用Python写一个快速排序算法",或者"解释下什么是注意力机制"。

4. 高级使用技巧

4.1 自定义模型存储位置

默认情况下,Ollama把模型存储在~/.ollama目录。如果你想改到其他位置(比如外接硬盘),可以这样做:

  1. 先停止Ollama服务:
ollama serve stop
  1. 设置环境变量:
export OLLAMA_MODELS="/你的/自定义/路径"
  1. 重新启动服务:
ollama serve

4.2 使用Open WebUI增强体验

虽然命令行能用,但网页界面更友好。推荐安装Open WebUI:

docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

安装后访问http://localhost:3000,在设置中添加Ollama地址(默认是http://localhost:11434),就能在漂亮的网页界面中使用DeepSeek了。

4.3 模型管理常用命令

  • 列出已安装模型:
ollama list
  • 删除不需要的模型:
ollama rm deepseek-r1:7b
  • 查看运行中的模型:
ollama ps
  • 停止运行中的模型:
ollama stop deepseek-r1:7b

5. 实际应用案例

5.1 编程辅助

作为开发者,我每天都会用DeepSeek来:

  • 生成代码片段
  • 解释复杂算法
  • 调试错误代码
  • 重构现有代码

比如遇到不熟悉的Python库,可以直接问:

>>> 如何使用Python的requests库发送POST请求?

5.2 学习研究

DeepSeek在学术方面也很给力:

  • 解释数学公式
  • 总结论文要点
  • 生成研究报告大纲
  • 翻译技术文档

5.3 内容创作

虽然不如专门的创作模型,但日常写个邮件、改个文案还是不错的:

>>> 帮我写一封给客户的英文道歉邮件,因为产品交付延迟了3天

6. 性能优化建议

6.1 针对Apple Silicon优化

如果你用的是M系列芯片,可以设置这些环境变量提升性能:

export OBJC_DISABLE_INITIALIZE_FORK_SAFETY=YES
export OLLAMA_MMAN_WARN=0

6.2 量化模型选择

如果觉得标准版模型太大,可以尝试量化版本(在模型名后加-q4):

ollama pull deepseek-r1:7b-q4

量化模型会损失一些精度,但能显著减少内存占用。

6.3 调整上下文长度

默认上下文长度是2048 token,可以通过参数调整:

ollama run deepseek-r1:7b --num_ctx 4096

注意:增加上下文会占用更多内存。

7. 常见问题解决

7.1 模型响应慢

可能原因和解决方案:

  1. 内存不足:换更小的模型版本
  2. CPU过热降频:确保散热良好
  3. 后台进程占用资源:关闭不必要的应用

7.2 模型输出质量差

尝试:

  • 更清晰的提示词
  • 调整temperature参数(0.1-1.0)
  • 提供更多上下文信息

7.3 安装失败

常见解决方法:

  • 检查磁盘空间(至少需要10GB空闲)
  • 确保网络连接正常
  • 尝试重启后再安装

我在M1 MacBook Air上部署7B模型时,发现关闭所有浏览器标签能显著提升推理速度。另外,如果只是偶尔使用,建议用完就停止模型,避免长期占用内存。

更多推荐