本文深入剖析了朴素RAG的局限性并详细介绍了7种进阶RAG架构包括上下文增强RAG、多模态RAG、混合检索RAG、图RAG、智能体RAG、多智能体RAG和记忆型RAG。每种架构都针对基础RAG的特定失效问题如上下文丢失、非文本文档处理、检索精度不足等提供了有效的解决方案。文章强调根据实际需求选择合适的架构而非盲目追求复杂帮助读者更好地理解和应用RAG技术提升大模型的效果。我曾以为自己弄懂了RAG。我的第一条流水线非常简单对文档进行分块、生成嵌入向量、检索排名靠前的匹配片段把它们放进提示词再交由大模型生成答案。说实话当时效果看着很不错。演示跑通了回答听起来有理有据。我以为大功告成。直到我开始向它提出真正关键的问题。突然间它会取出错误的文本块。有时虽然找到了正确文档却漏掉我需要的那段内容。还有些时候所需信息明明就在向量库里模型却始终读不到。最诡异的一点是系统本身没有任何报错。流水线完全按照我编写的逻辑运行。那一刻我意识到大多数RAG教程都没有讲透一件事把文档存入向量数据库只是简单环节。把正确的信息送入模型上下文才是真正的难题。我搭建的这套就是朴素RAGNaive RAG。朴素RAG并非一无是处它是入门的起点。但一旦文档内容杂乱、问题变得复杂或是应用需要稳定可靠的表现单次检索-回答的循环就会暴露局限。这就是各类进阶RAG架构的用武之地。本文会逐一拆解这7种架构介绍每种架构解决什么问题、存在哪些缺陷最重要的是如何判断你的RAG系统实际需要哪一种。用通俗语言理解RAG的本质大语言模型仅掌握训练阶段学到的知识。如果你向它询问企业内部文档或是近期发生的事情它要么坦言不知情更糟的是会自信地编造内容。RAG解决这个问题就像开卷考试远比闭卷考试更容易答对题目。在模型生成答案之前系统会先检索相关资料将资料作为参考素材交给模型而不是让模型仅凭自身记忆作答。朴素RAG的失效场景基础RAG流水线的逻辑其实很简单在介绍高级架构前我们快速了解基础RAG流水线的执行流程。当用户提出问题系统会执行以下步骤1检索外部知识库查找相关信息。2取出相关性最高的文本块。3将这些文本块加入提示词和用户问题放在一起。4全部内容发送给大语言模型模型基于这份上下文生成答案。简单概括问题 → 检索 → 获取片段 → 添加上下文 → LLM → 答案当文档体量小、内容规整时这套方案效果出奇的好。但现实场景中的数据很少这么理想。文本块丢失上下文。一句“营收增长3%”的片段无法说明属于哪家公司、哪个季度。重要信息被遗漏。表格、图表以及扫描件经常无法在基于文本的检索中被正常识别。首次检索可能出错。基础RAG一般不会暂停并尝试其他检索策略。对话历史无法留存。没有记忆能力每次会话都从零开始。事实之间相互割裂。分散在多份文档中的信息需要建立关联才能推导出合理答案。这些不是五个孤立的问题正是不同RAG架构诞生的原因。下面每种架构都专门解决基础流水线里一类特定的失效问题。1. 上下文增强RAGContextual RAG在存储文本块之前附加一小段说明描述该文本块的背景这样片段被从原文抽离出来后依然能够被理解。可以这样简单理解想象你从一本书里撕下一个段落交给一个陌生人没有书名、章节号没有任何其他信息。对方根本看不懂这段内容在说什么。而如果先在这页纸上钉一张便签“本段出自第4章介绍公司第二季度财报”这就是该架构的核心思路。原始文本块营收较上一季度增长3% - 哪家公司哪一年信息不明确 附加说明后来自ACME公司2023年第二季度财报。 营收较上一季度增长3%。 - 现在单独看这段内容也能理解优点后续检索出来的文本块自带背景信息不会因为脱离原文而语义残缺。无需改动检索方式只需要在入库阶段调整存储内容。缺点需要为每一个文本块生成说明入库阶段会消耗大量时间与成本。写得不好的说明同样会误导检索和优质说明带来正向效果一样。当文本块自带上下文后下一个难题就是非纯文本类文档。2. 多模态RAGMultimodal RAG不再先把PDF页面转为文本再检索而是让系统直接把页面当作图像进行读取避免表格、图表在文本转换过程中被破坏。简单理解对比阅读别人对一张图表的文字描述和直接看原图的差别。文字描述可能遗漏细节或是数字出现微小偏差直接查看原图就不会有这类问题。传统方式PDF页面 - 提取文本 - 推测表格结构 - 在文本中检索 过程中数字和表格结构可能错乱 多模态方式PDF页面 - 直接以图像形式检索页面 表格保留表格形态图表保留图表形态优点能够处理文本提取容易损坏的表格、图表和扫描件。移除流水线中脆弱的文本提取步骤规避该环节带来的错误。缺点相比纯文本检索需要更高算力。技术仍较新可用工具和社区积累不如文本检索丰富。3. 混合检索RAGHybrid Search RAG同时执行两种检索一种理解语义含义另一种匹配精确词汇之后合并检索结果。简单理解想象有两位图书管理员帮你查找资料。一位擅长理解你的意图哪怕你用词不精准也能找到相关资料。另一位不懂上下文含义但只要你输入特定编码她一定能找到包含该精确文字的文档。理想情况下两者配合工作。查询error E0502 borrow checker 语义检索 找到概念相近的文档即便没有出现该精确短语 精确词汇检索找到包含原文E0502字符串的内容 结果合并 将两类结果融合成最终列表优点同时兼顾概念类宽泛问题和精确专业术语的检索需求。解决一个非常普遍的缺陷单独使用语义检索往往很难处理编码、ID和专业术语。缺点需要搭建和维护两套检索系统而不是一套。需要精细调参决定两套检索结果各自的权重。4. 图RAGGraphRAG不再存储孤立的文本块而是梳理文档里人物、公司、概念之间的关联把相关内容归为一组并提前为每组生成简短摘要。当问题的答案无法由单个文本块承载时系统会读取这些分组摘要甚至自主判断需要读取哪些分组。简单理解假设你想知道“我们今年发布的所有资料中有哪些核心主题”。没有单篇文章能直接回答这个问题。但如果公司按部门划分每个部门提前写了一页工作摘要你只需阅读这些摘要就能快速得到答案。这就是知识图谱的思路。更智能的版本会由助手先判断哪些部门和你的问题相关而不是不加筛选地读取全部部门摘要。步骤1构建图谱一次性提前完成 文档集合 - 挖掘人物/概念之间的关联 - 归类相关内容 - 为每个分组生成简短摘要 步骤2回答宽泛问题 这份资料集合有哪些核心主题 - 筛选相关分组智能版本会自动完成筛选 - 读取对应分组摘要 - 整合生成答案优点能够回答单个文本块无法覆盖的宏观、主题类问题。可以一次性跨多份文档追溯关联关系而非逐个文档检索。智能自主筛选分组避免读取无关摘要浪费资源。缺点图谱构建本身是一项较大工程不能快速搭建。每当文档发生实质性变更图谱的部分内容需要重新构建。系统自主选择分组这一步判断本身也可能出错。梳理完整文档集可以解决宏观问题。但有些问题无论图谱质量多高都需要多次检索。5. 智能体RAGAgentic RAG不再只检索一次、拿到结果就直接回答系统可以检索一次查看返回结果判断信息是否充足如果不足就再次检索循环多次直到信息足够。简单理解对比搜索引擎和研究助理的区别。搜索引擎只返回一轮结果就停止。优秀的研究助理读完检索内容发现信息不够就会利用已获取的知识调整关键词再次检索。收到用户问题 - 检索一次 - 现有信息足够作答吗 - 不足利用刚刚获取的信息再次检索 - 仍然不足换个角度继续检索 - 信息充足生成答案优点处理那些确实需要多次查询才能妥善回答的问题。不会像固定流水线那样一次检索失败就直接放弃。缺点每多一轮检索就增加一次接口调用带来额外成本与延迟。如果选择了错误检索方向可能多次检索都在错误路径上直到发现问题。6. 多智能体RAGMulti-Agent RAG不再由单一系统同时完成规划、检索、校验、写作而是将任务拆分给多个小型专用系统每个系统专精一项任务由总控模块统筹整个流程。简单理解一个人同时做调研、写文稿、自查事实往往每一项都做得平平。而小型团队分工协作一人规划调研内容、一人负责资料搜集、一人校验准确性、一人撰写最终文稿每个环节质量都会更高。收到用户问题 - 规划智能体确定需要检索哪些内容 - 检索智能体执行查询有时并行查询多个数据源 - 校验智能体核查返回资料的准确性 - 写作智能体生成最终答案优点任务拆分每个环节独立专注而不是单一系统兼顾所有工作。支持并行执行多项检索而不是串行执行节省耗时。缺点多系统协同单次问答成本更高。最终答案出错时需要逐层追溯多个环节定位问题排查难度大。7. 记忆型RAGMemory RAG除了检索固定文档库系统还可以检索和用户的历史对话把过往对话当作可回溯资料而不是对话结束就彻底遗忘。简单理解对比两种医生。一种每次问诊前都会翻阅你的病历另一种每次都让你从头复述全部病史。你上次告知的信息都保存在档案中。这套系统思路与之类似保存关键对话信息相关时可以再次检索不用每次对话都从零开始。优点可以记住用户几天甚至几周前提到的信息不需要一次性加载全部对话上下文。非常适合持续性、个性化场景不只是一次性文档查询。缺点在文档检索系统之外额外维护一套记忆系统组件更多。为节省空间久远记忆会被压缩或摘要化这个过程会丢失部分细节。决策矩阵该选择哪一种架构值得记住的一点朴素RAG不会明显报错。它不会崩溃不会抛出异常。它只会基于错误信息给出答案表面一切正常直到有人核验内容。本文列出的每一种架构诞生的原因都是开发者追溯错误答案找到了某个可修复的根源。不要只因为架构更新就盲目选用最复杂的方案。应当根据你的检索环节具体的失效类型选择对应的架构。今天就可以做的事审视你当前的RAG流水线诚实地问自己一个问题系统给出错误答案时根源是检索拿到了错误内容、文本块丢失上下文还是系统没有二次检索这个问题就能帮你锁定需要升级的架构。如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包✅ 从零到一的 AI 学习路径图✅ 大模型调优实战手册附医疗/金融等大厂真实案例✅ 百度/阿里专家闭门录播课✅ 大模型当下最新行业报告✅ 真实大厂面试真题✅ 2026 最新岗位需求图谱所有资料 ⚡️ 朋友们如果有需要《AI大模型入门进阶学习资源包》下方扫码获取~① 全套AI大模型应用开发视频教程包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点② 大模型系统化学习路线作为学习AI大模型技术的新手方向至关重要。 正确的学习路线可以为你节省时间少走弯路方向不对努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划带你从零基础入门到精通③ 大模型学习书籍文档学习AI大模型离不开书籍文档我精选了一系列大模型技术的书籍和学习文档电子版它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。④ AI大模型最新行业报告2025最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。⑤ 大模型项目实战配套源码学以致用在项目实战中检验和巩固你所学到的知识同时为你找工作就业和职业发展打下坚实的基础。⑥ 大模型大厂面试真题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我精心整理了一份大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。以上资料如何领取为什么大家都在学大模型最近科技巨头英特尔宣布裁员2万人传统岗位不断缩减但AI相关技术岗疯狂扩招有3-5年经验大厂薪资就能给到50K*20薪不出1年“有AI项目经验”将成为投递简历的门槛。风口之下与其像“温水煮青蛙”一样坐等被行业淘汰不如先人一步掌握AI大模型原理应用技术项目实操经验“顺风”翻盘这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。以上全套大模型资料如何领取
