Windows 完整安装 FastGPT + Ollama 本地知识库（全离线私有化）

admin · 发表于 2026-6-17 09:02:09

整体方案说明

Windows 下通过 Docker Desktop 运行 FastGPT 整套容器，Ollama 原生 Windows 客户端本地跑模型，两者互通实现本地 RAG 知识库。

最低硬件

内存 ≥16GB（纯 CPU 最低门槛），推荐 16G+6G N 卡独显
磁盘：SSD 剩余 ≥40G
Windows 10 21H2 / Win11

一、前置软件安装

1. 开启 Windows WSL2（Docker 依赖）

以管理员身份打开 PowerShell，依次执行：

wsl --install
dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart
dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart

复制代码

重启电脑；重启后安装 WSL2 内核更新包：
微软官网下载：https://learn.microsoft.com/zh-cn/windows/wsl/install-manual#step-4---download-the-linux-kernel-update-package
设置 WSL2 为默认版本

wsl --set-default-version 2

复制代码

2. 安装 Docker Desktop

下载：https://www.docker.com/products/docker-desktop/
安装一路下一步，启动后勾选 Use WSL 2 instead of Hyper-V
启动 Docker，右下角托盘出现鲸鱼图标代表正常；
打开 PowerShell 验证：

docker --version
docker compose version

复制代码

3. Windows 安装 Ollama（本地大模型）

官网下载 Windows 客户端：https://ollama.com/download/windows
双击安装，自动配置环境变量，重启终端生效
PowerShell 拉取最小配套模型（RAG 必备两个）

# 向量模型
ollama pull bge-small-zh
# 对话低配平衡模型
ollama pull qwen2:3b

复制代码

放行 Ollama 允许 Docker 访问（关键步骤）
1）打开文件：C:\Users\你的用户名\.ollama\config，无则新建
写入：

<span style="color: rgb(0, 0, 0); font-family: ui-sans-serif, system-ui, sans-serif, "Apple Color Emoji", "Segoe UI Emoji", "Segoe UI Symbol", "Noto Color Emoji"; font-size: 16px; white-space: pre;">OLLAMA_HOST=0.0.0.0:11434</span>

复制代码

2）重启电脑 / 重启 Ollama 程序
3）验证监听所有地址：

<span style="color: rgb(0, 0, 0); font-family: ui-sans-serif, system-ui, sans-serif, "Apple Color Emoji", "Segoe UI Emoji", "Segoe UI Symbol", "Noto Color Emoji"; font-size: 16px; white-space: pre;">netstat -ano | findstr 11434</span>

复制代码

二、Windows 部署 FastGPT

1. 创建部署文件夹

随便选英文路径，不要中文 / 空格，示例：

mkdir D:\fastgpt
cd D:\fastgpt

复制代码

2. 下载部署脚本（PowerShell 执行）

Invoke-WebRequest -Uri "https://doc.fastgpt.cn/deploy/install.sh" -OutFile "install.sh"

复制代码

3. 用 Git Bash / WSL 执行部署脚本

Windows 原生 PowerShell 无法直接运行 sh 脚本，二选一：

方式 A：使用 WSL Ubuntu 执行（推荐，不用额外装软件）

在 D:\fastgpt 地址栏输入 wsl 回车进入 Linux 环境
执行脚本：

bash install.sh

复制代码

交互配置：

向量库：pgvector
镜像源：阿里云
外网地址：填写本机内网 IP（如 192.168.1.105）
设置 root 管理员密码，记好

方式 B：安装 Git Bash 运行脚本

下载 Git：https://git-scm.com/download/win
打开 Git Bash，进入目录执行：

bash install.sh

复制代码

4. 启动容器

仍在 WSL/Git Bash 的 fastgpt 目录执行

docker compose up -d

复制代码

等待镜像拉取、启动完成
查看运行状态：

docker compose ps

复制代码

所有容器状态为 Up 即为正常

5. 修复 OneAPI 网关（首次启动必做）

sleep 10
docker restart oneapi

复制代码

三、Windows FastGPT 对接本地 Ollama（核心配置）

浏览器打开 FastGPT：http://localhost:3000
账号：root，密码是部署时设置的密码
左侧【模型渠道】→ 添加渠道 → 选择 Ollama
API 地址填写固定值（Docker 访问宿主机 Ollama 专用地址）

http://host.docker.internal:11434

复制代码

密钥随便填，保存
4. 左侧【设置】-【模型配置】

LLM 模型：qwen2:3b
向量模型：bge-small-zh
保存全局模型配置。

四、创建企业知识库、上传文档、搭建问答应用

操作逻辑和 Linux 完全一致，简述流程：

知识库 → 新建知识库
切片 700 字，重叠 150，混合检索，阈值 0.6
上传 PDF/Word/TXT 文档，自动切片向量化
应用 → 新建知识库问答应用，绑定知识库
填入约束提示词（禁止 AI 编造内容）
发布，生成网页链接给员工使用
团队管理新建子账号，分配部门知识库权限隔离

五、Windows 常见问题与优化

1. Docker 无法访问 Ollama 11434

确认 OLLAMA_HOST=0.0.0.0:11434 配置生效，重启 Ollama
Windows 防火墙放行 11434 端口

2. 内存不足、程序崩溃（16G 纯 CPU）

限制 Ollama 常驻模型数量
修改 .ollama/config 添加：

OLLAMA_MAX_LOADED_MODELS=2
OLLAMA_KEEP_ALIVE=5m

复制代码

编辑 docker-compose.yml，给 fastgpt 增加内存限制

mem_limit: 6g
memswap_limit: 8g

复制代码

重启容器生效：docker compose down && docker compose up -d

3. WSL2 内存占用过高

创建 %UserProfile%\.wslconfig

[wsl2]
memory=10GB
processors=4
swap=2GB

复制代码

保存后执行 wsl --shutdown 重启 WSL

4. 上传文件失败 MinIO 9000 端口报错

Windows 防火墙放行 9000 端口；访问地址使用内网 IP 不要localhost。

六、日常运维命令（WSL/Git Bash 内执行）

# 重启整套FastGPT
docker compose restart
# 查看实时日志排错
docker compose logs -f fastgpt
# 停止所有服务
docker compose down
# Ollama 模型管理（PowerShell）
ollama list
ollama stop qwen2:3b
ollama rm qwen2:3b

复制代码

七、完整验证步骤

访问 http://localhost:3000 正常登录后台
Ollama 渠道连接成功，能识别 qwen2、bge-small-zh
上传 PDF 文档可正常解析、生成向量无报错
提问文档内内容，AI 能召回原文并显示引用来源
无内存溢出、容器反复重启现象

		自动登录	找回密码
密码			立即注册

[综合] Windows 完整安装 FastGPT + Ollama 本地知识库（全离线私有化）