Windows 完整安装 FastGPT + Ollama 本地知识库（全离线私有化）

admin

整体方案说明


Windows 下通过 Docker Desktop 运行 FastGPT 整套容器，Ollama 原生 Windows 客户端本地跑模型，两者互通实现本地 RAG 知识库。

最低硬件

• 内存 ≥16GB（纯 CPU 最低门槛），推荐 16G+6G N 卡独显
• 磁盘：SSD 剩余 ≥40G
• Windows 10 21H2 / Win11
  

一、前置软件安装


1. 开启 Windows WSL2（Docker 依赖）

• 以管理员身份打开 PowerShell，依次执行：
  

1. wsl --install
   
2. dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart
   
3. dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart

复制代码

• 重启电脑；重启后安装 WSL2 内核更新包：
  微软官网下载：https://learn.microsoft.com/zh-cn/windows/wsl/install-manual#step-4---download-the-linux-kernel-update-package
• 设置 WSL2 为默认版本
  

1. wsl --set-default-version 2

复制代码

2. 安装 Docker Desktop

• 下载：https://www.docker.com/products/docker-desktop/
• 安装一路下一步，启动后勾选 Use WSL 2 instead of Hyper-V
• 启动 Docker，右下角托盘出现鲸鱼图标代表正常；
• 打开 PowerShell 验证：
  

1. docker --version
   
2. docker compose version

复制代码

3. Windows 安装 Ollama（本地大模型）

• 官网下载 Windows 客户端：https://ollama.com/download/windows
• 双击安装，自动配置环境变量，重启终端生效
• PowerShell 拉取最小配套模型（RAG 必备两个）
  

1. # 向量模型
   
2. ollama pull bge-small-zh
   
3. # 对话低配平衡模型
   
4. ollama pull qwen2:3b

复制代码

• 放行 Ollama 允许 Docker 访问（关键步骤）
  1）打开文件：C:\Users\你的用户名\.ollama\config，无则新建
  写入：
  

1. <span style="color: rgb(0, 0, 0); font-family: ui-sans-serif, system-ui, sans-serif, &quot;Apple Color Emoji&quot;, &quot;Segoe UI Emoji&quot;, &quot;Segoe UI Symbol&quot;, &quot;Noto Color Emoji&quot;; font-size: 16px; white-space: pre;">OLLAMA_HOST=0.0.0.0:11434</span>

复制代码

2）重启电脑 / 重启 Ollama 程序
3）验证监听所有地址：

1. <span style="color: rgb(0, 0, 0); font-family: ui-sans-serif, system-ui, sans-serif, &quot;Apple Color Emoji&quot;, &quot;Segoe UI Emoji&quot;, &quot;Segoe UI Symbol&quot;, &quot;Noto Color Emoji&quot;; font-size: 16px; white-space: pre;">netstat -ano | findstr 11434</span>

复制代码

二、Windows 部署 FastGPT


1. 创建部署文件夹


随便选英文路径，不要中文 / 空格，示例：

1. mkdir D:\fastgpt
   
2. cd D:\fastgpt

复制代码

2. 下载部署脚本（PowerShell 执行）

1. Invoke-WebRequest -Uri "https://doc.fastgpt.cn/deploy/install.sh" -OutFile "install.sh"

复制代码

3. 用 Git Bash / WSL 执行部署脚本


Windows 原生 PowerShell 无法直接运行 sh 脚本，二选一：

方式 A：使用 WSL Ubuntu 执行（推荐，不用额外装软件）

• 在 D:\fastgpt 地址栏输入 wsl 回车进入 Linux 环境
• 执行脚本：
  

1. bash install.sh

复制代码

交互配置：

• 向量库：pgvector
• 镜像源：阿里云
• 外网地址：填写本机内网 IP（如 192.168.1.105）
• 设置 root 管理员密码，记好
  

方式 B：安装 Git Bash 运行脚本


下载 Git：https://git-scm.com/download/win
打开 Git Bash，进入目录执行：

1. bash install.sh

复制代码

4. 启动容器


仍在 WSL/Git Bash 的 fastgpt 目录执行

1. docker compose up -d

复制代码

等待镜像拉取、启动完成
查看运行状态：

1. docker compose ps

复制代码

所有容器状态为 Up 即为正常

5. 修复 OneAPI 网关（首次启动必做）

1. sleep 10
   
2. docker restart oneapi

复制代码

三、Windows FastGPT 对接本地 Ollama（核心配置）

• 浏览器打开 FastGPT：http://localhost:3000
  账号：root，密码是部署时设置的密码
• 左侧【模型渠道】→ 添加渠道 → 选择 Ollama
• API 地址填写固定值（Docker 访问宿主机 Ollama 专用地址）
  

1. http://host.docker.internal:11434

复制代码

密钥随便填，保存
4. 左侧【设置】-【模型配置】

• LLM 模型：qwen2:3b
• 向量模型：bge-small-zh
  保存全局模型配置。
  

四、创建企业知识库、上传文档、搭建问答应用


操作逻辑和 Linux 完全一致，简述流程：

• 知识库 → 新建知识库
  切片 700 字，重叠 150，混合检索，阈值 0.6
• 上传 PDF/Word/TXT 文档，自动切片向量化
• 应用 → 新建知识库问答应用，绑定知识库
• 填入约束提示词（禁止 AI 编造内容）
• 发布，生成网页链接给员工使用
• 团队管理新建子账号，分配部门知识库权限隔离
  

五、Windows 常见问题与优化


1. Docker 无法访问 Ollama 11434

• 确认 OLLAMA_HOST=0.0.0.0:11434 配置生效，重启 Ollama
• Windows 防火墙放行 11434 端口
  

2. 内存不足、程序崩溃（16G 纯 CPU）

• 限制 Ollama 常驻模型数量
  修改 .ollama/config 添加：
  

1. OLLAMA_MAX_LOADED_MODELS=2
   
2. OLLAMA_KEEP_ALIVE=5m

复制代码

• 编辑 docker-compose.yml，给 fastgpt 增加内存限制
  

1. mem_limit: 6g
   
2. memswap_limit: 8g

复制代码

重启容器生效：docker compose down && docker compose up -d

3. WSL2 内存占用过高


创建 %UserProfile%\.wslconfig

1. [wsl2]
   
2. memory=10GB
   
3. processors=4
   
4. swap=2GB

复制代码

保存后执行 wsl --shutdown 重启 WSL

4. 上传文件失败 MinIO 9000 端口报错


Windows 防火墙放行 9000 端口；访问地址使用内网 IP 不要localhost。

六、日常运维命令（WSL/Git Bash 内执行）

1. # 重启整套FastGPT
   
2. docker compose restart
   
3. # 查看实时日志排错
   
4. docker compose logs -f fastgpt
   
5. # 停止所有服务
   
6. docker compose down
   
7. 
   
8. # Ollama 模型管理（PowerShell）
   
9. ollama list
   
10. ollama stop qwen2:3b
    
11. ollama rm qwen2:3b

复制代码

七、完整验证步骤

• 访问 http://localhost:3000 正常登录后台
• Ollama 渠道连接成功，能识别 qwen2、bge-small-zh
• 上传 PDF 文档可正常解析、生成向量无报错
• 提问文档内内容，AI 能召回原文并显示引用来源
• 无内存溢出、容器反复重启现象