1. 开篇：为什么要在本地折腾一个AI应用？

如果你和我一样，是个喜欢折腾的开发者，或者对AI应用开发充满好奇，但又对云服务API调用费用、网络延迟或者数据隐私有那么一点点顾虑，那么今天聊的这个话题，你肯定会感兴趣。咱们的目标很明确：不花一分钱，就在你自己的Windows 10电脑上，搭建一个完全属于你自己的“通义千问”智能助手。

听起来是不是有点酷？这可不是简单的本地运行一个聊天窗口。我们要构建的是一个完整的、可扩展的AI应用开发平台。你可以用它来开发智能客服、文档分析助手、创意写作工具，或者任何你脑洞大开的AI应用。整个过程，我们依赖三个核心“神器”：WSL2、Dify和Ollama。

让我先用人话解释一下它们分别是干嘛的。WSL2 是Windows下的Linux子系统，它让你能在Windows里无缝运行一个完整的Ubuntu，解决了环境依赖的“水土不服”问题。Ollama 是一个本地大模型运行工具，就像给你的电脑装了一个“模型引擎”，可以轻松拉取和运行像通义千问（Qwen）这样的开源大模型。而 Dify，则是我们今天的主角平台，它像一个“乐高积木工厂”，提供了可视化的界面，让你通过拖拖拽拽、配置配置，就能把模型能力、知识库、工作流组合成一个功能完整的AI应用，无需从零写代码。

所以，这条“全链路”就是：在Windows上用WSL2搭建Linux环境 -> 在WSL2里用Ollama部署通义千问模型 -> 同样在WSL2里部署Dify应用开发平台 -> 最后在Dify里调用本地的Ollama模型，构建你的专属应用。全程离线，数据不出本地，自由度和可控性拉满。接下来，我就带你一步步走通这条路，过程中遇到的坑和解决方案，我都会毫无保留地分享给你。

2. 基石搭建：搞定WSL2与基础环境

万事开头难，但把基础打牢了，后面就一马平川。我们的第一步，就是让Windows 10具备一个强大的Linux心脏——WSL2。

2.1 启用WSL2并安装Ubuntu

首先，确保你的Windows 10版本是2004及以上（内部版本19041及以上）。按下 Win + X，选择“Windows PowerShell（管理员）”。别用普通命令行，我们需要管理员权限。

在打开的蓝色窗口里，输入下面这条命令，它会一次性启用WSL功能并安装WSL2的核心组件：

wsl --install -d Ubuntu-22.04

这个命令会自动完成几件事：启用“适用于Linux的Windows子系统”和“虚拟机平台”这两个Windows功能，下载并安装最新的WSL2 Linux内核更新包，最后默认安装Ubuntu 22.04 LTS发行版。安装过程中，系统可能会重启一次。

重启后，你会在开始菜单里找到一个新图标叫“Ubuntu”，点击它，就会打开一个终端窗口，这里会提示你设置Linux的新用户名和密码。这个用户名和密码很重要，请务必记住，以后执行sudo命令（获取管理员权限）时都需要输入这个密码。设置完成后，你就拥有了一个完整的Ubuntu系统。

为了确认一切正常，我们打开一个新的PowerShell窗口（普通用户权限即可），输入：

wsl -l -v

你应该能看到类似下面的输出，确保你的Ubuntu后面跟着的VERSION是2，这代表它运行在WSL2模式下。

  NAME            STATE           VERSION
* Ubuntu-22.04    Running         2

2.2 配置WSL2与安装Docker

默认的WSL2可能内存和CPU分配比较保守，对于运行大模型来说可能不够用。我们可以创建一个配置文件来调整。在Windows的用户目录下（比如C:\Users\你的用户名\），新建一个文件叫.wslconfig，用记事本打开，填入以下内容：

[wsl2]
memory=8GB    # 根据你电脑内存调整，建议至少8GB，16GB更佳
processors=4  # 分配4个CPU核心，同样根据你的CPU调整
swap=4GB      # 交换空间大小
localhostForwarding=true

保存后，在PowerShell中执行 wsl --shutdown 来完全关闭WSL，然后再重新打开Ubuntu终端，配置就生效了。

接下来是在Ubuntu里安装Docker。因为Dify和Ollama（除了桌面版）都强烈依赖Docker容器化部署。在Ubuntu终端里，依次执行以下命令：

1. 更新软件包列表并安装依赖：

   sudo apt update
   sudo apt install -y ca-certificates curl software-properties-common
   

2. 添加Docker官方GPG密钥和仓库：

   curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg
   echo "deb [arch=$(dpkg --print-architecture) signed-by=/usr/share/keyrings/docker-archive-keyring.gpg] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
   

3. 安装Docker引擎：

   sudo apt update
   sudo apt install -y docker-ce docker-ce-cli containerd.io
   

4. 将当前用户加入docker组，这样就不用每次都sudo了：

   sudo usermod -aG docker $USER
   

   执行完这条命令后，你需要完全退出当前的Ubuntu终端，再重新打开一个新的终端，用户组变更才会生效。

验证Docker安装：docker --version 和 sudo systemctl status docker（确保服务是活跃的）。至此，我们的基础舞台就搭建完毕了。

3. 部署核心：让Ollama在本地跑起通义千问

模型引擎就位，接下来我们安装Ollama，并让它把通义千问模型“请”到本地。

3.1 安装与运行Ollama

Ollama的安装极其简单。在Ubuntu终端里，就一条命令：

curl -fsSL https://ollama.com/install.sh | sh

脚本会自动完成所有工作。安装完成后，运行 ollama --version 检查一下。为了让Ollama服务在后台持续运行，我们可以使用systemd来管理它。但更简单直接的方式是，新开一个终端窗口，运行：

ollama serve

这个窗口会持续运行，显示服务日志。我们主要操作的终端窗口保持另一个即可。

3.2 拉取并运行通义千问模型

Ollama支持很多模型，我们选择阿里的通义千问。考虑到本地部署的硬件限制（尤其是显存），我们从一个较小的参数版本开始，比如qwen2.5:1.5b（15亿参数），它对硬件非常友好。在终端里执行：

ollama pull qwen2.5:1.5b

这会从Ollama的模型库下载模型文件。下载速度取决于你的网络。完成后，你可以直接测试一下模型是否正常工作：

ollama run qwen2.5:1.5b

然后你就可以在命令行里和它对话了，输入/bye退出。这证明模型已经成功在本地运行起来了。

3.3 关键步骤：配置Ollama网络与模型调优

默认情况下，Ollama服务只监听本地回环地址（127.0.0.1）。但我们的Dify是运行在Docker容器里的，在WSL2的网络环境中，这被视为一个“外部”服务。因此，我们需要让Ollama允许外部连接。

首先，停止正在运行的ollama serve（在它所在的终端按Ctrl+C）。然后，我们需要修改Ollama的服务环境变量。编辑Ollama的systemd服务配置文件（如果通过脚本安装，通常会有）：

sudo systemctl edit ollama

在弹出的编辑器中，输入以下内容，覆盖原有配置：

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_ORIGINS=*"

保存并退出。然后重启Ollama服务：

sudo systemctl daemon-reload
sudo systemctl restart ollama

现在，Ollama就在所有网络接口的11434端口上监听了。你可以在WSL2的Ubuntu内部用 curl http://localhost:11434/api/tags 测试，应该能返回已拉取的模型列表。

关于模型选择与性能的实用建议：qwen2.5:1.5b 速度快，占用资源少，适合快速验证流程。如果你的电脑内存（特别是显存）足够强大（比如有8GB以上显存的NVIDIA显卡），完全可以尝试更大的模型，如 qwen2.5:7b 甚至 qwen2.5:14b。只需将上面命令中的模型名替换即可。更大的模型理解能力和生成质量会显著提升，但需要更长的加载时间和更多的内存。在WSL2中，即使没有独立显卡，利用CPU和系统内存也能运行这些小规模模型，只是速度会慢一些。

4. 搭建舞台：部署Dify应用开发平台

引擎有了，现在需要搭建一个漂亮易用的控制台，这就是Dify。

4.1 获取Dify源码并启动

我强烈建议将Dify的代码克隆到WSL2的Linux文件系统内（比如/home/你的用户名/下的某个目录），而不是Windows的盘符（如/mnt/c/或/mnt/f/）下。这能避免后续Docker容器在文件权限上可能遇到的诡异问题，这是很多新手会踩的第一个大坑。

在Ubuntu终端里，执行：

cd ~
git clone https://github.com/langgenius/dify.git --branch 1.9.2
cd dify/docker

这里我们指定克隆1.9.2版本的分支，以确保和本文的步骤兼容。进入docker目录后，我们需要复制环境变量配置文件：

cp .env.example .env

这个.env文件包含了数据库密码、密钥等各种配置，一般情况下我们无需修改，使用默认值即可。现在，使用Docker Compose一键启动所有服务：

docker compose up -d

这个-d参数是让服务在后台运行。你会看到Docker开始拉取Redis、PostgreSQL、Nginx等一大堆镜像并启动容器。耐心等待几分钟，直到所有容器状态都变为healthy或running。

4.2 验证部署与访问

如何知道Dify启动成功了呢？首先，用 docker ps 命令查看所有容器是否都在运行。然后，最关键的是，在WSL2的Ubuntu内部，你可以用 curl http://localhost:80 试试，或者更直接地，我们需要找到WSL2实例在Windows网络中的IP地址。

在Ubuntu终端里运行 hostname -I，你会看到一个IP地址，比如 172.xx.xx.xx。这个就是WSL2虚拟机的IP。打开你Windows 10上的浏览器（比如Chrome），在地址栏输入 http://172.xx.xx.xx（把地址换成你实际的），回车。

如果一切顺利，你将会看到Dify的初始化界面，让你设置管理员账号和密码！恭喜你，Dify平台已经成功部署。完成初始化登录，你就进入了Dify的仪表盘。这里插一句，如果你访问不了，可能是Windows防火墙阻止了，暂时在Windows防火墙里为WSL2的IP地址放行80端口，或者直接关闭防火墙（仅测试环境）试试。

5. 全链路贯通：在Dify中接入本地Ollama模型

现在到了最激动人心的环节：把前面部署好的本地通义千问模型，接入到Dify这个可视化平台里，让它从命令行玩具变成一个可编程的AI应用引擎。

5.1 在Dify中添加Ollama作为模型供应商

登录Dify后，点击左下角的“设置”图标（通常是个齿轮），然后侧边栏选择“模型供应商”。你会看到一个长长的列表，里面是OpenAI、Anthropic等各种云服务商。我们需要点击右上角的“添加模型供应商”按钮。

在弹出的页面里，找到“Ollama”（它可能在“未分类”或列表靠后位置）。点击它，就进入了Ollama的配置页面。这里有几个关键字段需要填写：

• 模型名称： 这里你可以自定义一个在Dify里显示的名字，比如“我的本地Qwen”。
• 模型类型： 选择“文本生成”。
• 服务器地址： 这是最关键的一步。不能填localhost或127.0.0.1，因为Dify的容器网络和宿主机（WSL2 Ubuntu）网络是隔离的。需要填写WSL2 Ubuntu的IP地址和Ollama的端口。也就是我们之前用 hostname -I 得到的那个IP，加上端口11434。格式是：http://172.xx.xx.xx:11434。
• 模型名称（模型ID）： 这里要填写Ollama中实际的模型名称，也就是我们之前拉取的 qwen2.5:1.5b。

其他参数如上下文长度、最大Token数，可以先保持默认（比如4096）。填写完毕后，点击“保存并测试连接”。如果配置正确，Dify会提示“连接成功”，并可能自动获取到模型的上下文长度等信息。

5.2 创建你的第一个AI应用并测试

连接成功后，回到Dify首页，点击“创建应用”。选择“对话型应用”，给它起个名字，比如“我的本地AI助手”。

进入应用编辑界面后，你会看到一个类似聊天机器人的配置面板。在右侧的“模型”区域，点击下拉菜单，你应该能看到“Ollama”这个供应商，以及下面可选的“qwen2.5:1.5b”模型。选中它。

现在，你就可以在中间的预览窗口里和你的本地模型对话了！试着输入“你好，介绍一下你自己”，看看它是否会以通义千问的口吻回复你。如果成功回复，那么恭喜你，全链路已经彻底打通！你已经在Windows 10上，通过WSL2+Dify+Ollama，构建了一个完全本地的、可视化的通义千问应用。

5.3 深入玩法：提示词编排与工作流

Dify的强大远不止于此。现在模型已经接入，你可以玩转Dify的核心功能了：

• 提示词编排： 在“提示词”标签页，你可以设计系统提示词，比如“你是一个专业的编程助手，回答要简洁明了”。还可以配置上下文变量，让对话更智能。
• 知识库（RAG）： 点击“知识库”标签，你可以创建一个知识库，上传你的PDF、Word、TXT文档。然后回到应用编排，添加“知识库检索”节点。这样，你的AI助手就能基于你提供的专属文档来回答问题，实现企业知识库、个人文档摘要等功能。
• 工作流： 这是Dify的杀手锏。在“工作流”标签页，你可以通过拖拽节点（如条件判断、HTTP请求、代码执行等）的方式，构建复杂的AI业务流程。比如，先让模型分析用户意图，然后根据意图去查询数据库，再把结果用模型润色后输出。

这一切操作都无需编写后端代码，全部在可视化界面中完成。这正是Dify作为LLM应用开发平台的魅力所在，它把大模型能力变成了可组装的积木。

6. 避坑指南与进阶优化

一路走下来，你可能已经成功了，也可能遇到了一些小波折。这里我集中分享几个我踩过的坑和对应的解决方案，以及一些让体验更好的优化建议。

坑1：Dify启动时数据库容器报错“wrong ownership” 这就是原始文章里提到的经典问题。根本原因是Docker容器内的用户（通常是postgres）没有权限操作挂载在Windows盘符（/mnt/）下的数据卷。最一劳永逸的解决方案，就是我之前强调的：把所有项目文件都放在WSL2的Linux原生文件系统里（如/home/username/），而不是/mnt/c/下。 如果你已经放在/mnt/下了，就把它移动到~目录下再启动。

坑2：Ollama高版本模型“思考”过程导致Dify无响应 如果你拉取的是较新的Qwen2.5模型，并使用较新版本的Ollama（>=0.1.47），可能会遇到模型在后台“推理”（think）但Dify前端一直等待不显示结果的情况。这是因为新版Ollama的推理控制指令变了。解决方法不是降级Ollama，而是创建一个自定义模型文件来关闭推理。

在Ubuntu里创建一个文件，比如叫 Modelfile.qwen，内容如下：

FROM qwen2.5:1.5b

PARAMETER num_ctx 4096

TEMPLATE """{{ if .System }}<|im_start|>system
{{ .System }}<|im_end|>
{{ end }}{{ if .Prompt }}<|im_start|>user
{{ .Prompt }}<|im_end|>
{{ end }}<|im_start|>assistant
{{ .Response }}<|im_end|>
"""

注意，这里的关键是简化了模板，移除了可能导致复杂推理过程的指令。然后使用这个文件创建新模型：

ollama create my-qwen2.5:1.5b -f ./Modelfile.qwen

在Dify里添加模型时，就使用这个新的 my-qwen2.5:1.5b。

优化1：为WSL2分配更多资源 如果你发现运行模型时特别卡顿，可以回头调整我们之前创建的 .wslconfig 文件，增加memory和processors的值。比如memory=16GB，processors=8。修改后记得 wsl --shutdown 再重启。

优化2：使用Dify的API Dify不仅提供Web界面，还为每个应用生成了API端点。在应用概览页面，你可以找到API密钥和API地址。这意味着你可以用Python、JavaScript等任何语言编写程序，通过HTTP调用来使用你搭建的这个本地AI服务，轻松集成到其他系统中。

优化3：探索更多模型和插件 Ollama官方库里有成百上千的模型，除了Qwen，还有Llama、Gemma、Mistral等。你完全可以在Dify里接入多个模型，根据不同应用场景切换。Dify社区也有许多插件，比如支持联网搜索、支持特定工具调用等，可以让你的AI应用能力更强大。

走完这一整套流程，你收获的不仅仅是一个本地运行的聊天窗口。你获得的是一个完整的、私有的、可高度定制的AI应用开发与部署环境。从环境准备、服务部署到应用集成，每一步都亲自动手，这种掌控感是直接调用云端API无法比拟的。更重要的是，这个架构为你打开了无限可能：你可以基于此开发任何你想要的AI应用，数据完全私有，成本仅为电费。