DeepSeek本地化部署(Windows+Ollama+Docker+OpenWebUI)详细图文教程
DeepSeek本地化部署(Windows+Ollama+Docker+OpenWebUI)
最近抖音热搜的DeepSeek AI火遍国内外, 在AI 行业引起了广泛关注!
2025年1月,DeepSeek 正式发布 DeepSeek-R1 推理大模型,DeepSeek-R1 成本价格低廉,性能卓越。
最近,DeepSeek的访问出现了不稳定的问题,一个有效的解决方案是进行本地化部署。本地化部署不仅可以避免网络波动带来的影响,还能提供更高的隐私保护和数据安全性。通过本地化部署,用户可以在自己的设备上运行DeepSeek模型,无需依赖外部网络连接,从而实现更稳定、更可靠的使用体验。
DeepSeek 提供了多种使用方式,满足不同用户的需求和场景。本地部署在数据安全、性能、定制化、成本、离线可用性和技术自主性方面具有显著优势。
接下来我详细讲解下基于Windows+Ollama+Docker+OpenWebUI 的本地化部署流程,并通过实例代码演示。

1. 软硬件需求
1.1 硬件需求
DeepSeek R1 本地部署的硬件需求如下:
基本推荐配置:CPU: 8核或以上,内存: 32GB或以上,存储: 100GB SSD或以上
GPU: NVIDIA GTX2080或同等性能
DeepSeek-7B 推荐配置:RTX3060 以上显卡 + 16G以上 内存 + 50G SSD 存储空间
DeepSeek-70B 推荐配置:RTX4060 以上显卡 + 32G以上 内存 + 200G SSD 存储空间
本教程使用的硬件配置为:
CPU: Intel i5-12490/3.00GHz
内存: 32GB
存储: 500GB SSD
GPU: NVIDIA GTX 3060。
1.2 软件依赖
DeepSeek R1 本地部署的软件依赖包括操作系统、容器化工具、编程语言、深度学习框架、数据库、消息队列、Web 服务器、GPU 加速工具、版本控制、包管理工具、监控与日志工具以及安全工具。
本教程采用 Windows10 操作版本、Python 3.8 版本、PyTorch 1.7 版本。
2. Ollama 下载与安装
2.1 Ollama 的下载
Ollama 是一个开源的本地模型运行工具,可以方便地下载和运行各种开源模型,如 Llama、Qwen、DeepSeek 等。
Ollama 提供高效、灵活的大模型部署和管理解决方案,可以简化模型的部署流程。支持macOS、Linux、Windows 操作系统。
官网地址:https://ollama.com/
下载地址:https://ollama.com/download


本教程选择 Ollama Windows 版本 下载。

2.2 Ollama 的安装
下载完成后直接点击 OllamaSetup.exe 进行安装。

安装完成后,cmd 打开命令行窗口,输入 “ollama -v” 测试,显示 ollama 的版本为 “0.5.7”,表明安装成功。

2.3 Ollama 的运行
Ollama 没有用户界面,在后台会自动运行,重启电脑也会自动启动。
打开浏览器,输入 :
“http://localhost:11434/”,
显示 “Ollama is running”。

3. deepseek-r1 模型安装
3.1 Ollma 安装 deepseek-r1 模型
(1)从 ollama 官网 查找 deepseek-r1 模型。

(2)点击进入 deepseek-r1 模型,可以选择不同版本的模型(1.5b/7b/14b/32b/70b/671b)。
deepseek-r1 提供多个版本,参数量越大,模型的性能越强大,但也需要更多的存储和计算资源。
1.5b 模型参数为15亿/1.1GB,
7b 模型参数约为 70亿/4.7GB,
14b 模型参数约为 140亿/9GB。
deepseek-r1 不同版本模型的执行命令不同:
1.5b 的命令为:“ollama run deepseek-r1:1.5b”
7b 的命令为:“ollama run deepseek-r1:7b”
14b 的命令为:“ollama run deepseek-r1:14b”
推荐大家先下载较小的 1.5b 模型,把本教程的安装程序跑通,再根据自己的硬件配置和需求安装适当的版本。

(3)本教程选择选择 7b 模型,在命令行窗口运行安装命令 “ollama run deepseek-r1:7b”,程序会自动下载和安装运行。

默认地址是 “C:\Users%username%.ollama\models”。
如果要修改模型的保存地址,可以新建一个文件夹如 “C:\Model”,然后在系统环境变量添加系统变量:
“变量名:OLLAMA_MODELS,
变量值:C:\Model”。
(4)安装完成后显示 “success”,表明安装成功。

3.2 使用 deepseek-r1 模型
(1)在命令行窗口运行命令 “ollama run deepseek-r1:7b”,就可以在提示行输入,与 deepseek-r1 进行聊天。

(2)输入 “/?”,可以获得帮助。

通过本地命令行窗口可以使用 deepseek-r1,但这让人回到了 DOS 年代,交互体验很差。接下来我们按照 Docker 和 Open WebUI 用户界面,可以更便捷地使用 deepseek-r1。
4. 安装 Docker
Docker是一种虚拟化容器技术。Docker基于镜像,可以秒级启动各种容器。每一种容器都是一个完整的运行环境,容器之间互相隔离。
4.1 检查安装环境
在 Windows 任务管理器中,检查系统是否开启虚拟化。
打开任务管理器(Ctrl+Alt+Delete),选择:性能 - CPU - 虚拟化,确认“虚拟化”已启用。

如果未开启虚拟化,则要开机重启并进入BIOS 进行设置:在 BIOS 选择:Advanced(高级)-- CPU Configuration – Secure Virtual Machine,设置为:Enabled(启用)。
在 “控制面板” 打开 “程序”,然后点击 “启用或关闭 Windows 功能”,勾选 “Hyper-V 管理工具” 和 “Hyper-V 平台”。

以管理员身份打开命令行窗口,输入 “wsl --set-default-version 2”,将默认设置为 WSL 2。
通过适用于 Linux 的 Windows 子系统 (WSL),开发人员可以安装 Linux 发行版,并直接在 Windows 上使用 Linux 应用程序、实用程序和 Bash 命令行工具,不用进行任何修改。
命令行窗口,输入 “wsl --update --web-download”,更新安装 wsl。

4.2 安装 Docker for Desktop
Docker Desktop 是 Docker 官方提供的桌面应用程序,旨在让开发者能够在 Windows 和 macOS 系统上轻松地构建、运行和共享容器化应用程序。Docker Desktop 提供了一个方便的工具集,使用户能够快速部署容器化应用程序,同时还包括了一些强大的功能和工具,如 Docker Engine、Docker CLI、Docker Compose 等。
从 Docker 官方 下载 Docker 安装程序。

我们进入docker 官网,选择自己电脑对应的版本,然后点击下载。

依照提示完成安装即可。

安装时选择推荐设置。
根据提示登录账号,如使用 GitHub 账号登录。

安装完成后,cmd 打开命令行窗口,输入 “docker version” 检查,显示 docker 的版本为 “27.4.0”,表明安装成功。

4.3 配置docker
安装完成后,我们打开docker,注册登录一下docker,然后在右下角点击Terminal,打开控制台,然后输入下面命令,然后等待安装完成。
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

安装完成之后,我们在左侧点击Images(镜像),点击运行,如果需要有配置,默认即可。

点击Container(容器),点击

此时会打开web ui网页,注册open web-ui账号即可使用。如果无法显示,可以点击进入容器查看

查看log日志,查看有没有存在什么问题,或者尝试重启

注意(重启电脑后,如果出现 500:Internal Error)

进入 Containers 页面,选择 open-web 项的 Actions列,点击小三角启动就行。

5. 安装 Open WebUI
Open WebUI是一个可扩展、功能丰富、用户友好的自托管 WebUI,旨在完全离线操作。它支持各种LLM运行程序,包括 Ollama 和 OpenAI 兼容的 API。Open WebUI 适配了 Ollama 接口,提供了 web 的方式来访问 Ollama API。
5.1 安装和启动 open-webui
打开 open-webui 项目的 Github 仓库
https://github.com/open-webui/open-webui:

从 README 的安装指南找到用于 Ollama 的安装命令
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

在命令行执行 docker 命令,自动下载并安装 open-webui。

5.2 登录 Open-WebUI 进入 deepseek-r1z
在浏览器输入 “localhost:3000/auth” 或 “http://127.0.0.1:3000”,进入 Open-WebUI 首页。

注册账号密码,创建管理员账号。
注册完成并登录,就进入 deepseek-r1 模型的首页:

现在,我们就可以用本地部署的 deepseek-r1 模型进行聊天了。
更多推荐


所有评论(0)