📋 本文目录
如果你厌倦了各个AI平台的充值会员、数据隐私顾虑、调用限制，想拥有一套完全掌握在自己手里的AI智能体平台，那 Dify + Ollama 的组合就是目前最适合普通人的方案。
这篇教程是我自己踩了无数坑后整理的完整部署流程，从 Docker 安装到 Dify 部署再到接入本地大模型，每一步都有截图级别的详细说明。零基础也能跟着做下来，全程大概 30-60 分钟。
一、为什么要本地部署Dify？
Dify 是一个开源的 AI 应用开发平台，你可以把它理解为"开源版的 Coze 扣子"。它提供了可视化的工作流编排、知识库 RAG、插件系统、API 发布等能力，核心优势是：
- 完全私有化：数据不出本地，敏感文档不怕泄露
- 免费商用：MIT 开源协议，个人和企业都能免费用
- 模型自由：可以接 OpenAI、Anthropic，也能接本地 Ollama 跑免费模型
- 可视化编排：拖拽式工作流，不用写代码也能做复杂应用
- 一键发布：做好的应用可以直接生成网页、API、嵌入组件
💡 适合人群：对数据隐私敏感的企业用户、想学习AI Agent开发的技术爱好者、预算有限但想搭建自有AI平台的创业者。
二、部署前准备：硬件与软件要求
硬件要求
| 配置档次 | CPU | 内存 | 显卡 | 适合模型 |
|---|---|---|---|---|
| 入门体验 | 4核以上 | 8GB | 无/核显 | 7B Q4 量化（CPU跑，慢） |
| 推荐配置 | 6核以上 | 16GB | RTX 3060 12G | 7B-13B Q4（GPU加速） |
| 流畅使用 | 8核以上 | 32GB | RTX 4070 12G+ | 13B-34B Q4（流畅推理） |
软件要求
- 操作系统：Windows 10/11（推荐专业版）、macOS 12+、Ubuntu 20.04+/CentOS 7+
- Docker Desktop（Windows/Mac）或 Docker Engine（Linux）
- Docker Compose 插件
- Git（可选，用于拉取源码）
⚠️ 注意：Windows 用户必须先开启 WSL2，Docker Desktop 依赖它。Windows 家庭版也能装，但是性能会差一些。
三、第一步：安装 Docker 环境
1下载 Docker Desktop
前往 Docker 官网下载对应系统的安装包：docker.com/products/docker-desktop
Windows 版安装时勾选 "Use WSL 2 instead of Hyper-V"，Mac 版选择 Apple Silicon 或 Intel 芯片对应版本。
2Windows 开启 WSL2（Mac/Linux跳过）
以管理员身份打开 PowerShell，执行：
wsl --install
wsl --set-default-version 2执行完重启电脑。重启后打开 Docker Desktop，等待左下角显示绿色 "Engine running" 就说明安装成功了。
3验证安装
打开终端（Windows用PowerShell或CMD，Mac用终端），输入：
docker --version
docker compose version都能输出版本号就说明环境没问题。
💡 国内加速：Docker 默认镜像源在国外，下载很慢。建议在 Docker Desktop → Settings → Docker Engine 中添加国内镜像源：
"registry-mirrors": [
"https://docker.mirrors.ustc.edu.cn",
"https://hub-mirror.c.163.com"
]四、第二步：部署 Dify 服务
1获取 Dify 部署文件
找一个空间充足的盘（至少预留 20GB），新建一个文件夹叫 dify，在里面创建 docker 子文件夹。
有两种方式获取部署文件：
方式A（推荐）：直接从 Dify GitHub 下载 docker 目录。访问 github.com/langgenius/dify/tree/main/docker，把整个 docker 目录的文件都下载下来。
方式B：用 Git 克隆整个项目：
git clone https://github.com/langgenius/dify.git
cd dify/docker2配置环境变量
在 docker 目录下，复制 .env.example 并重命名为 .env：
cp .env.example .env编辑 .env 文件，至少修改以下三项：
# 管理员初始密码，改成你自己的
INIT_PASSWORD=your_admin_password_here
# 密钥，随便填一串随机字符，越长越安全
SECRET_KEY=your_random_secret_key_here_32chars_plus
# 服务端口，默认80就行，如果80被占用就改成别的，比如8080
EXPOSE_NGINX_PORT=80其他配置保持默认即可，后续需要再调整。
3启动 Dify 服务
在 docker 目录下打开终端，执行启动命令：
docker compose up -d第一次启动会下载十几个镜像，根据网速可能需要 10-30 分钟。看到所有容器都显示 "Started" 就成功了。
查看运行状态：
docker compose ps所有服务状态都是 Up 或 Up (healthy) 就正常。
4访问 Dify 后台
打开浏览器访问 http://localhost（如果你改了端口就加上端口号，比如 http://localhost:8080）。
第一次进入会让你注册管理员账号，用刚才在 .env 里设置的邮箱和密码登录。注册成功后就进入 Dify 的主界面了。
⚠️ 启动失败怎么办？最常见的原因是端口被占用。检查 80、5432、6379 这些端口有没有被其他程序占用。可以用 netstat -ano | findstr :80（Windows）或 lsof -i :80（Mac）查看。
五、第三步：接入 Ollama 本地大模型
Dify 默认需要配置 OpenAI API Key 才能用，但我们的目标是完全本地运行不花一分钱，所以接下来接入 Ollama。
1安装 Ollama
去 Ollama 官网 ollama.com 下载安装包，一键安装就行，Windows/Mac/Linux 都支持。
安装完成后打开终端，下载一个模型：
# 8G显存推荐这个，中文能力不错
ollama pull qwen3:8b
# 16G显存以上可以用更大的
ollama pull qwen3:14b下载完成后测试一下：
ollama run qwen3:8b能正常对话说明 Ollama 跑起来了。
2让 Dify 容器能访问到 Ollama
这是最容易踩坑的一步。Ollama 跑在宿主机上，Dify 跑在 Docker 容器里，它们不在同一个网络，需要特殊配置才能互通。
Windows/Mac 用户（最简单）：
Docker Desktop 内置了一个特殊域名指向宿主机，在 Dify 里填这个地址就行：
http://host.docker.internal:11434Linux 用户：
需要修改 Ollama 配置让它监听所有网卡。编辑 /etc/systemd/system/ollama.service，在 [Service] 下添加：
Environment="OLLAMA_HOST=0.0.0.0"然后重启服务：systemctl restart ollama
在 Dify 里填宿主机的局域网 IP：http://你的IP:11434
3在 Dify 中添加 Ollama 模型供应商
进入 Dify 后台 → 点击左下角头像 → 系统设置 → 模型供应商 → 找到 "Ollama" 点击设置。
填写：
- 基础 URL：
http://host.docker.internal:11434（Windows/Mac）或宿主机 IP - 模型名称：填你刚才下载的模型，比如
qwen3:8b - 模型类型：勾选 "文本生成"
点击保存，然后去 "模型" 页面确认模型状态是 "已启用"。
六、第四步：创建你的第一个智能体应用
Dify 里主要有五种应用类型：聊天助手、文本生成、分类问题、Agent、工作流。新手推荐从「聊天助手」开始。
1创建聊天助手应用
点击首页的「创建空白应用」→ 选择「聊天助手」→ 起个名字比如"我的AI助手" → 创建。
进入编排界面后，在右侧「模型与参数」里选择刚才添加的 Ollama 模型。
2设置系统提示词
在「提示词编排」里写清楚这个 AI 的角色和行为规则。比如做一个写作助手：
你是一位专业的中文写作助手，擅长撰写各类文章、文案和报告。
请根据用户的需求，提供结构清晰、语言流畅的内容。
回答时请分段，使用小标题，关键信息加粗。3测试并发布
在右侧预览窗口里发几条消息测试效果，满意后点击右上角「发布」。
发布后可以：
- 获得一个独立的网页链接，直接分享给别人用
- 生成 API 接口，集成到自己的产品里
- 获取嵌入代码，放到自己的网站上
七、常见问题与排错
Q1: Dify 容器启动后又自动退出？
先看日志找原因：docker compose logs api（看哪个容器挂了就看哪个的日志）。最常见原因是数据库连接失败或 .env 配置错误。
Q2: Ollama 连接不上，提示"连接超时"？
检查这几点：Ollama 是否在运行、地址和端口是否正确、防火墙是否拦截了 11434 端口、Docker 容器能否访问宿主机网络。
Q3: 模型回复很慢怎么办？
CPU 跑模型本来就慢，建议用带 NVIDIA 显卡的机器。确认 Ollama 用了 GPU 加速：ollama --verbose 看是否有 "CUDA" 字样。没有的话需要安装 NVIDIA 显卡驱动和 CUDA。
Q4: 怎么升级 Dify 版本？
docker compose pull
docker compose up -dDify 会自动处理数据库迁移。升级前建议先备份数据卷。
Q5: 数据存在哪里？会丢失吗？
Dify 用 Docker 卷存储数据，包括 PostgreSQL 数据库和上传的文件。只要不手动执行 docker compose down -v（那个 -v 会删除卷），数据就不会丢。
八、进阶：性能优化与安全建议
性能优化
- GPU 加速：有 NVIDIA 显卡一定要安装 CUDA，推理速度能提升 10-20 倍
- 模型选择：日常对话用 7B-8B 完全够，又快又省资源；复杂任务再上 13B+
- 量化等级：Q4_K_M 是速度和质量的最佳平衡点，Q5_K_M 质量更好但慢一些
- 内存分配：Docker Desktop 里把内存调大一点，建议至少分配 8GB 给 Docker
安全建议
- 不要直接暴露公网：如果要外网访问，一定要加 Nginx 反向代理 + HTTPS
- 改默认管理员账号：部署后第一时间修改默认邮箱和密码
- 开启注册审核：系统设置里关掉"允许公开注册"，避免陌生人注册使用
- 定期备份：数据库和上传文件定期备份，防止意外丢失
🎯 写在最后：Dify + Ollama 的组合，本质上是给了你一个"完全自主的AI工厂"。你可以用它做客服机器人、知识库问答、写作助手、数据分析工具……唯一的限制是你的想象力。
如果你只是想体验一下，用云平台的 Coze 扣子更简单方便；但如果你在乎数据隐私、想长期投入、或者有特殊定制需求，那本地部署 Dify 绝对值得花一下午折腾一下。
— 全文完 —
觉得有用？回 AIBoxs 看看更多好工具