一、环境准备
-
启用WSL GPU支持
-
确保Windows主机已安装NVIDIA驱动516.40或更高版本 -
在PowerShell执行： wsl --update
wsl --set-version Ubuntu-22.04 2 -
系统基础配置
sudo apt update && sudo apt full-upgrade -y
sudo apt install build-essential git curl -y
二、GPU环境配置
-
安装CUDA Toolkit
wget https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/cuda-wsl-ubuntu.pin
sudo mv cuda-wsl-ubuntu.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/3bf863cc.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/ /"
sudo apt install cuda-toolkit-12-2验证安装：
nvidia-smi应显示GPU信息 -
配置Docker GPU支持
curl -fsSL https://get.docker.com | sh
sudo groupadd docker
sudo usermod -aG docker $USER
newgrp docker
sudo systemctl enable docker
# 安装nvidia-container-toolkit
distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list
sudo apt update && sudo apt install -y nvidia-container-toolkit
sudo systemctl restart docker验证GPU支持：
docker run --gpus all nvidia/cuda:12.2.0-base-ubuntu22.04 nvidia-smi
三、部署RAGFlow
-
获取项目源码
git clone https://github.com/infiniflow/ragflow.git
cd ragflow建议提前安装Git LFS处理大文件
-
优化系统参数
sudo sysctl -w vm.max_map_count=262144
echo "vm.max_map_count=262144" | sudo tee -a /etc/sysctl.conf -
启动服务
docker compose -f docker-compose.yml up -d容器包含预配置的GPU支持
-
验证部署
docker logs ragflow-web -f # 监控实时日志
curl http://localhost:8501 # 验证服务状态
四、Ollama模型部署
-
安装与配置
curl -fsSL https://ollama.com/install.sh | sh
ollama pull deepseek-chat -
GPU异常处理遇到OOM错误时执行：
sudo systemctl stop ollama
sudo rmmod nvidia_uvm
sudo modprobe nvidia_uvm
sudo systemctl start ollama该操作可重置GPU内存分配模块
五、常见问题排查
-
容器启动失败
-
检查端口冲突： netstat -tuln | grep 8501 -
查看详细日志： docker compose logs --tail=100
GPU未识别
docker run --gpus all -it ubuntu nvidia-smi # 验证Docker GPU支持
nvidia-container-cli --version # 应≥v1.12.0
WSL内存限制在%UserProfile%.wslconfig中添加：
[wsl2]
memory=16GB
processors=8
完成部署后可通过http://localhost:8501访问RAGFlow界面
———————————————————————
如镜像源无法使用，添加下述配置：
