Open WebUI中调用RAGFlow的聊天机器人——适合构建个人和企业级知识问答助手

众所周知，Open WebUI 是一个很好的大模型前端界面，阿里的 Qwen 界面就是基于这个开发的（盲猜）。事实上，在使用 Open WebUI 很久之后，我发现通过集成 RAGFlow 这个优秀的 RAG（检索增强生成）框架，可以显著提升文档检索和问答的准确性。本文将详细介绍 Open WebUI 和 RAGFlow，并展示如何通过 Pipeline 将两者连接起来，实现高效的 RAG 检索效果。

为什么要把RAGFlow加到Open WebUI里？

Open WebUI是个超级漂亮的AI前端界面，用起来特别顺手，我自己用了好一阵子，感觉它就像个简易版的ChatGPT。而RAGFlow呢，是个专门搞文档检索的利器，能从PDF、Word甚至网页里找出你想要的信息。把它们俩凑一块儿，你就能一边享受Open WebUI的美观操作，一边用RAGFlow快速找到文档里的关键内容，问答精准度蹭蹭往上涨。不管你是想处理复杂文档，还是让聊天更有料，这套方案都挺值得试试的。

先看效果：

带参考内容哦！还是流式生成的哦！

1. Open WebUI 简介

Open WebUI 是一个开源的、自托管的 AI 交互平台，以其用户友好的界面和强大的功能而著称。它的设计灵感来源于 ChatGPT，界面直观且易于操作，支持离线运行，非常适合希望本地化部署大模型的用户。Open WebUI 的可扩展性是其一大亮点，它能够无缝集成多种大型语言模型（LLM）运行器，例如 Ollama 和 OpenAI 兼容的 API。

主要特点：

• • 多模型支持：支持多种 LLM，用户可以根据需求选择不同的模型进行交互。
• • 直观界面：界面设计简洁美观，操作流畅，用户体验极佳。
• • 离线运行：支持自托管，无需依赖云服务，数据安全更有保障。
• • 可扩展性：通过 Pipelines 框架，用户可以轻松添加自定义功能。

Open WebUI 的安装也非常简单，也可以直接pip安装，还方便二次开发。

通常可以通过 Docker 或 Kubernetes 快速部署。例如，使用以下命令即可启动：

docker run -d -p 3000:8080 --name open-webui openwebui/open-webui:main

一个示例页面是这样的：

2. RAGFlow 简介

RAGFlow 是一个开源的 RAG（Retrieval-Augmented Generation，检索增强生成）引擎，专注于深度文档理解和高效问答生成。它能够处理多种复杂格式的数据，包括 Word、PDF 和网页等，并通过一系列高级功能提升检索的准确性。RAGFlow 的设计目标是为用户提供简化的 RAG 工作流，结合 LLM 实现精准的问答能力。

主要特点：

• • 多格式支持：兼容 Word、PDF、网页等多种文档类型。
• • 模板化切块：通过模板将文档分块，便于检索和管理。
• • 知识图谱：利用知识图谱增强文档理解能力。
• • 关键词抽取：自动提取关键信息，提升检索效率。
• • 可视化溯源：提供可视化工具，帮助用户追踪回答来源。
• • 灵活部署：支持 Docker 部署，兼容多种 LLM 和嵌入模型。

RAGFlow 的部署同样简单，以 Docker 为例：

docker run -d -p 5000:5000 infiniflow/ragflow:latest

一个示例页面是这样的：

3. 通过 Pipeline 连接 Open WebUI 和 RAGFlow

要将 RAGFlow 的强大检索能力集成到 Open WebUI 中，我们需要借助 Open WebUI 的 Pipelines 功能。Pipelines 是一个插件框架，允许用户在不修改核心代码的情况下扩展 Open WebUI 的功能。通过一个自定义 Pipeline 脚本，我们可以让 Open WebUI 调用 RAGFlow 进行检索，并将结果作为上下文提供给 LLM，从而生成更准确的回答。

3.1 配置前提

在开始之前，确保以下条件已满足：

• • Open WebUI 已安装并运行。
• • RAGFlow 已安装并运行。
• • Docker 环境可用（用于运行 Pipelines）。

3.2 安装 Pipelines

Pipelines 可以通过 Docker 部署，运行以下命令启动 Pipelines 服务器：

`docker run -d -p 9099:9099 --add-host=host.docker.internal:host-gateway -v pipelines:/app/pipelines --name pipelines --restart always ghcr.io/open-webui/pipelines:main`

此命令将 Pipelines 容器运行在 9099 端口，并挂载一个本地目录用于存储 Pipeline 脚本。

3.3 配置 Open WebUI 连接 Pipelines

1. 1. 打开 Open WebUI，进入 Admin Panel > Settings > Connections。
2. 2. 点击 + 添加新连接。
3. 3. 将 API URL 设置为 http://localhost:9099（若在 Docker 中运行 Open WebUI，则使用 http://host.docker.internal:9099）。
4. 4. API 密钥设置为 0p3n-w3bu!。
5. 5. 保存后，API Base URL 将显示带有 "Pipelines" 图标的连接，表示配置成功。

如下界面：

3.4 上传Pipelines脚本并配置参数

打开Pipelines并上传写好的py文件，配置四个参数即可使用：

3.5 在聊天中使用

配置完成后，在 Open WebUI 的聊天界面中选择使用 RAGFlow Pipeline 的模型。上传文档或输入查询时，Open WebUI 将通过 Pipeline 调用 RAGFlow 检索相关内容，并将结果传递给 LLM 生成回答。实际测试和直接使用RAGFlow差不多，速度嘎嘎快。

我们实际的问题内容召回很高，实际的知识库内容为：

如何实现二叉树的中序遍历？
‍```python
classNode:
    def__init__(self, value):
        self.left = None
        self.right = None
        self.value = value

definorder_traversal(root):
    res = []
    defhelper(node):
        if node:
            helper(node.left)
            res.append(node.value)
            helper(node.right)
    helper(root)
    return res

# 构建测试树
root = Node(1)
root.left = Node(2)
root.right = Node(3)
root.left.right = Node(4)
print(inorder_traversal(root))  # [2,4,1,3]
‍```

可以看到，实际的召回效果简直棒极了！

4. 总结

通过 Pipeline 将 RAGFlow 集成到 Open WebUI 中，用户可以在一个美观且易用的界面中，充分利用 RAGFlow 的强大检索能力。这种组合不仅提升了问答的精准度，还为开发者提供了灵活的定制空间。无论你是想处理复杂文档还是提升聊天体验，这套方案都值得一试。把RAGFlow接到Open WebUI里，简直是懒人和效率控的福音。界面好看，检索给力，操作还简单，试过一次你就知道有多香了。

我的python脚本在下面了，有需求自取，复制内容，保存为py文件上传即可。

from typing import List, Union, Generator, Iterator, Optional
from pydantic import BaseModel
import requests
import json

class Pipeline:
    class Valves(BaseModel):
        API_KEY: str
        AGENT_ID: str
        HOST: str
        PORT: str