云原生后端运维【免费下载链接】TerminusOpen-Source Personal Cloud OS for Always-On Agents项目地址https://gitcode.com/gh_mirrors/terminus2/Terminus点击查看免费下载在 Olares 1.12.6 中Open WebUI 借助检索增强生成Retrieval-Augmented GenerationRAG能力让本地 AI 模型可以直接基于你上传的 PDF、文本文件或精心整理的知识库回答问题。本文以 Olares 上的真实操作路径为主线完整讲解从获取嵌入模型连接信息、在聊天中分析单个文档到构建可复用持久知识库、配置 PaddleOCR 高级内容提取引擎的全过程读完即可在本地私有环境跑通文档问答工作流。背景Open WebUI 的 RAG 与文档理解Open WebUI 是一款自托管聊天界面用于与 Olares 设备上的本地模型交互安装与模型连接参见 Open WebUI 部署指南。其文档理解能力建立在 RAG 之上文档首先被切分为文本块并转换为向量用户提问时系统检索最相关的片段连同问题一起送入生成模型使回复可以引用文档原文。在这一流程中嵌入模型Embedding Model是不可或缺的前置组件——它负责把文档文本映射为高维向量。在 Olares 上Open WebUI 默认通过 OpenAI 兼容协议调用嵌入模型服务文档要求安装EmbeddingGemma作为嵌入模型。前提条件开始前请确认以下条件已满足已安装并配置 Open WebUI且至少连接了一个本地对话模型拥有 Open WebUI 实例的管理员权限首次启动时创建的本地管理员账号已从应用市场安装嵌入模型模型类型模型获取方式EmbeddingEmbeddingGemma从应用市场安装配置嵌入模型文档理解要求嵌入模型把文本转换为向量数据。要完成配置必须先获取嵌入模型的连接信息再将其填入 Open WebUI。第一步获取嵌入模型连接信息嵌入模型在 Olares 上以独立服务运行客户端需要Model name模型名称和与其 API 格式匹配的Base URL才能连接。获取步骤如下从启动台打开嵌入模型应用其模型控制台会自动打开。等待模型显示就绪Ready、引擎显示运行中Running。在模型部分按显示内容原样复制模型名称不要缩写、不要删除仓库前缀或量化标签否则可能触发 Model not found 错误。在引擎部分连接来源选择Olares 内应用Apps in Olares因为 Open WebUI 与模型运行在同一集群内API 格式选择OpenAI-Compatible按显示内容原样复制Base URL地址。说明Olares 上独立模型应用作为与客户端分离的服务运行连接双方需要准确的 Model name 与匹配的 Base URL两者均可从模型控制台获取。更通用的连接方法论连接来源、API 格式、Base URL、API key 的对应关系参见 连接 AI 应用与模型服务。如果希望换用其他嵌入模型可从应用市场安装其他模型应用或通过引擎基座应用创建模型实例已安装 Olares CLI 与 Agent Skills 的 AI Agent 应用还可直接通过对话让 Agent 部署模型例如输入使用 Ollama 引擎基座在我的 Olares 上部署 qwen3.5:9b。第二步在 Open WebUI 中应用嵌入设置拿到模型名称与 Base URL 后将其填入 Open WebUI在 Open WebUI 中点击头像图标前往Admin Panel管理面板Settings设置。在左侧边栏的Tools工具部分选择Documents文档。在Embedding嵌入区域指定以下设置设置项填写内容Embedding Model Engine嵌入模型引擎选择OpenAIAPI Base URL输入从模型控制台复制的嵌入模型Base URLEmbedding Model嵌入模型输入从模型控制台复制的嵌入模型Model name向下滚动到页面底部点击右下角的Reindex重建索引以应用更改并重建向量索引。点击Save保存。提示嵌入模型的可用性直接影响整个 RAG 链路。如果之后发现 AI 无法把文档或网页搜索结果纳入上下文应优先回到Admin PanelSettingsToolsDocuments检查嵌入模型设置是否缺失或不可访问详见文末排查章节。在聊天会话中分析单个文档对于一次性分析或总结场景可以直接把文档附加到聊天会话无需创建知识库开始一个新聊天。选择要使用的对话模型。点击聊天输入框下方的添加add_2图标选择Upload Files上传文件。上传 PDF 或文本文件。输入提示词要求模型分析文档例如Summarize the main points of this document.提交提示词。如果生成的回复中包含文件引用file citations说明 Open WebUI 已成功把该文档加入上下文——这是验证文档是否进入 RAG 链路的关键标志。构建持久知识库对于需要在多个聊天会话中重复使用的文档应创建持久知识库Knowledge Base避免每次重复上传在 Open WebUI 中点击头像图标前往Workspace工作区Knowledge知识库。点击Create创建。在What are you working on你正在做什么字段中输入知识库名称例如Product FAQs。在What are you trying to achieve你想达成什么目标字段中输入描述例如Frequently asked questions and support guides for Olares products。点击Create Knowledge保存集合。点击添加add图标 Upload files上传文件上传文件来填充知识库内容。创建完成后该集合作为可复用的知识资产存在后续任意新聊天均可引用文件无需重复上传。将知识库附加到聊天创建知识库后在聊天中将其附加模型即可检索并引用其内容开始一个新聊天。选择模型。点击聊天输入框下方的添加add_2图标选择Attach Knowledge附加知识库。选择要使用的知识集合。提出与知识库内容相关的问题。模型会检索相关段落并在回复中引用它们引用来源即文档片段。建议把分析单个文档临时、一次性与构建知识库持久、可复用两种模式区分使用——前者适合快速审阅后者适合沉淀 FAQ、产品手册、团队资料等需要长期引用的内容。可选配置 PaddleOCR 高级内容提取引擎默认情况下Open WebUI 使用简单的文本提取引擎。对于包含表格或复杂版式的文档建议切换到 PaddleOCR 以获得更高的内容提取准确性。:::warning 性能影响 PaddleOCR 需要更多 GPU 显存VRAM处理文档也比默认引擎更慢。仅在文档版式质量非常关键时才使用该引擎。 :::配置步骤如下从应用市场安装PaddleOCR应用。获取 PaddleOCR 端点 URL打开 Olares 设置前往应用ApplicationsPaddleOCR入口Entrances点击PaddleOCR复制端点 URL例如https://17b4c78a.laresprime.olares.com。说明PaddleOCR 属于非 LLM 服务不使用 OpenAI-Compatible 或 Ollama 等通用 provider 格式而是通过自己的工具专属协议通信因此无需配置 API 格式。端点 URL 从 Olares 设置的应用入口获取即可确保入口认证级别为Internal以便集群内其他应用无需登录即可访问参见 连接 AI 应用与模型服务。在 Open WebUI 中前往Admin PanelSettings。在左侧边栏的Tools部分选择Documents。在Content Extraction内容提取区域按如下方式配置设置项填写内容Content Extraction Engine内容提取引擎在下拉列表中选择PaddleOCR-vlAPI Base URL输入 PaddleOCR 端点 URLAPI Token输入任意文本例如local不要留空点击Save保存。关于 API Token 的说明Olares 本地的 AI 服务信任来自同一集群内其他应用的请求通常不需要真实密钥但当客户端字段不允许留空时填入占位文本即可olares、local等。常见问题排查围绕本文涉及的 RAG 链路结合 Open WebUI 常见问题 给出以下排查要点回复中没有文件引用/知识库内容优先确认嵌入模型是否已配置且可访问。前往Admin PanelSettingsToolsDocuments验证嵌入模型设置嵌入模型缺失或不可访问时Open WebUI 将无法处理文档与检索结果。Model not found 错误嵌入模型名称被缩写或缺少前缀。回到模型控制台复制完整的模型名称保留仓库前缀与量化标签。连接检查失败或 Base URL 无法访问连接来源与客户端运行位置不匹配。重新打开模型控制台选择Olares 内应用后再次复制 Base URL。浏览器出现跨域CORS错误或 Olares 身份认证页面客户端可能从浏览器前端直接发起了请求请确认请求模式与服务入口符合客户端教程。相关资源Open WebUI 部署与模型连接在 Olares 上安装 Open WebUI 并连接本地对话模型在 Open WebUI 中启用网页搜索配置文档嵌入与 SearXNG 网页搜索其中设置文档嵌入与本文共享同一配置面板连接 AI 应用与模型服务连接来源、API 格式、Base URL 与 API key 的通用方法论Open WebUI 常见问题模型状态、麦克风权限、网页搜索与嵌入模型等问题的排查英文原文Chat with documents and knowledge bases in Open WebUI赞分享云原生后端运维【免费下载链接】TerminusOpen-Source Personal Cloud OS for Always-On Agents项目地址https://gitcode.com/gh_mirrors/terminus2/Terminus点击查看免费下载相关推荐Olares 1.12.6 实战为 Open WebUI 接入 SearXNG 联网搜索与嵌入模型 RAGOlares 1.12.6 实战为 Open WebUI 接入 SearXNG 联网搜索与嵌入模型 RAG 在 Olares 私有云上自部署的 Open We云原生后端运维Olares 上使用 Open WebUI 构建本地知识库RAG 文档问答完整实战指南Olares 上使用 Open WebUI 构建本地知识库RAG 文档问答完整实战指南 Open WebUI 在 Olares 上原生支持检索增强生成RAG云原生后端运维使用 AnythingLLM 在 Olares 上构建本地私有知识库RAG— Olares 1.12.6使用 AnythingLLM 在 Olares 上构建本地私有知识库RAG— Olares 1.12.6 AnythingLLM 是一款开源的一体化 AI云原生后端运维上一篇openJiuwen SimpleKnowledgeBase 详解标准分块式知识库的写入、检索与多库聚合实战指南下一篇终极指南如何使用iframe-resizer实现跨域iframe自适应大小创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
