24个RAG框架横评:从RAGFlow到微软GraphRAG,该选哪个

AI Summary (BLUF)
这篇文章汇总了24个RAG框架,包括17个传统RAG框架和7个GraphRAG框架,每个都附带了GitHub地址。传统RAG框架涵盖文本切块、向量化、检索、重排序等环节,GraphRAG则通过引入知识图谱增强检索。文章还讨论了AI Agent的就业前景和大模型学习路径。
核心洞察
这篇文章把 RAGRetrieval-Augmented Generation - an AI framework that combines information retrieval with language generation to produce more accurate and contextually relevant responses. 和 GraphRAGRAG方法的高级变体,引入图结构数据,将信息表示为实体和关系的互联网络,以提高检索的完整性和准确性。 两个方向的框架做了个清单式盘点,省去了你自己去 GitHub 一个个翻的功夫。17 个传统 RAG 加 7 个 GraphRAG,覆盖面挺全,从 AnythingLLM 这种开箱即用的产品到 FlashRAG 这种研究工具包都有。后半段画风一转开始推学习路线和资料包,这是 CSDN 上常见的套路,你心里有数就行。
核心结论
文章盘点了 17 个传统 RAG 框架和 7 个 GraphRAG 框架,共 24 个开源项目,覆盖从开箱即用产品(如 AnythingLLM、MaxKB)到研究工具包(如 FlashRAG)的多种类型。
传统 RAG 框架的核心流程为文本切块、向量化、存储、检索、重排、生成、评估,代表性项目包括 RAGFlow(主打深度文档理解)、QAnything(加入重排序机制)和 Dify(配置项丰富)。
GraphRAG 由微软推动兴起,核心改进是在传统 RAG 基础上加强实体、社区、文本切块之间的联系并融入知识图谱,目的是提高召回率和准确性,代表项目包括微软官方 microsoft-GraphRAG、轻量级 LightRAG 和 nano-GraphRAG。
文章提出大模型 AI 学习的四阶段路线:第一阶段(10天)初阶应用、第二阶段(30天)高阶应用、第三阶段(30天)模型训练、第四阶段(20天)商业闭环,总计约 90 天。
文章认为 AI Agent人工智能代理,指能够感知环境、自主决策并执行任务的智能软件实体。在微软框架中,Agent作为基本功能单元,具备目标导向的行为能力和环境交互能力。 火热的原因有三:技术变革大势所趋、先入场者有四到五年红利期、企业岗位需求旺盛。
17个传统 RAG 框架
传统 RAG 框架说白了就是把文本切块、向量化、存储、检索、重排、生成、评估这一整套流程串起来的系统。它的好处是灵活,文档怎么处理、检索用什么策略,都能自己调。比较有代表性的实现有 RAGFlow,主打深度文档理解;QAnything,加了重排序机制;还有 Dify,配置项多到几乎什么都能改。这些框架细节上各有各的做法,但大框架差不多。
下面这 17 个:
1、AnythingLLM,RAG 和 AI 代理能力都齐全。GitHub:https://github.com/Mintplex-Labs/anything-llm
2、MaxKB,基于大模型的知识库问答系统,即插即用,能快速嵌进第三方业务系统。GitHub:https://github.com/1Panel-dev/MaxKB
3、RAGFlow,基于深度文档理解的开源 RAG 引擎。GitHub:https://github.com/infiniflow/ragflow
4、Dify,开源的大模型应用开发平台。界面直观,AI 工作流、RAG 流程、代理、模型管理、可观测性都揉在一起了,原型到生产过渡比较快。GitHub:https://github.com/langgenius/dify
5、FastGPT,基于 LLMLarge Language Model, the underlying technology for generative AI. 的知识型平台,数据加工和模型调用开箱即用,工作流可以可视化编排。GitHub:https://github.com/labring/FastGPT
6、Langchain-Chatchat,基于 Langchain 和 ChatGLM 等模型的本地知识库问答。GitHub:https://github.com/chatchat-space/Langchain-Chatchat
7、QAnything,网易有道出的问答系统。GitHub:https://github.com/netease-youdao/QAnything
8、Quivr,用 Langchain、GPT-3.5/4 turbo、Anthropic、VertexAI、Ollama 等跟文档和应用程序交互,算是 OpenAI GPTs 和 ChatGPT 的本地私有替代品。GitHub:https://github.com/QuivrHQ/quivr
9、RAG-GPT,利用 LLM 和 RAG 技术从用户自定义知识库里学习,给各种查询提供上下文相关的答案。GitHub:https://github.com/open-kf/rag-gpt
10、Verba,Weaviate 驱动的 RAG 聊天机器人。GitHub:https://github.com/weaviate/Verba
11、FlashRAG,做高效 RAG 研究的 Python 工具包。GitHub:https://github.com/RUC-NLPIR/FlashRAG
12、LightRAG,检索器-代理-生成器式的 RAG 框架。GitHub:https://github.com/SylphAI-Inc/LightRAG
13、kotaemon,开源、干净、可定制的 RAG UI。GitHub:https://github.com/Cinnamon/kotaemon
14、RAGapp,企业里用 Agentic RAG 最简单的方式。GitHub:https://github.com/ragapp/ragapp
15、TurboRAG,通过预计算 KV 缓存加速 RAG,适合分块文本。GitHub:https://github.com/MooreThreads/TurboRAG
16、TEN,实时多模态 AI 代理框架。GitHub:https://github.com/TEN-framework/ten_framework
17、AutoRAG,RAG 的 AutoML 工具。GitHub:https://github.com/Marker-Inc-Korea/AutoRAG
7个 GraphRAG 框架
GraphRAG 是微软带火的,之后冒出来一堆轻量级改进版,比如 LightRAG 和 nano-GraphRAG。也有走不同路子的,像 KAG。这类框架的核心改动是在传统 RAG 基础上加强了实体、社区、文本切块之间的联系,再把现有知识图谱的知识融进去,目的是提高召回率和准确性。
这里列 7 个:
1、LightRAG,简单快速的 GraphRAG 检索增强生成。GitHub:https://github.com/HKUDS/LightRAG
2、GraphRAG-Ollama-UI,用 Ollama 跑的 GraphRAG,带 Gradio UI 和一些额外功能。GitHub:https://github.com/severian42/GraphRAG-Ollama-UI
3、microsoft-GraphRAG,微软官方的模块化图基 RAG 系统。GitHub:https://github.com/microsoft/graphrag
4、nano-GraphRAG,简单、好改的 GraphRAG 实现。GitHub:https://github.com/gusye1234/nano-graphrag
5、KAG,基于 OpenSPG 引擎的知识增强生成框架,面向严格决策和信息检索类知识服务。GitHub:https://github.com/OpenSPG/KAG
6、Fast-GraphRAG,GraphRAG 的轻量化版本。GitHub:https://github.com/circlemind-ai/fast-graphrag
7、Tiny-GraphRAG,一个小巧的 GraphRAG 实现。GitHub:https://github.com/limafang/tiny-graphrag
AI Agent 为啥这么火
第一,大势所趋。 我们正在经历的技术变革比当年互联网兴起那波更猛,掉队就等于淘汰。未来所有应用大概率都会被 AI Agent 重写一遍。
第二,红利期还在。 先入场的人至少能享受四到五年的红利,拿高薪,掌握更多资源。
第三,企业需求旺。 越来越多公司在 AI Agent 方向做创新尝试,岗位机会和发展空间都摆在那。
大模型 AI 怎么学
新岗位的生产效率高于被取代岗位的生产效率,所以整个社会的生产效率是提升的。
但落到个人身上,情况是这样的:
最先掌握 AI 的人,会比晚掌握的人有竞争优势。
这话放在计算机、互联网、移动互联网的开局时期,道理都一样。
我在一线互联网企业干了十余年,指导过不少同行后辈,帮不少人完成了学习和成长。
我意识到很多经验和知识值得分享,也能通过我们的能力帮大家解答人工智能学习中的困惑。所以工作再忙也在坚持整理和分享。但知识传播途径有限,很多朋友拿不到正确的资料,所以我把重要的 AI 大模型资料整理出来了,包括入门学习思维导图、精品学习书籍手册、视频教程、实战学习录播视频,免费分享。
这份完整版的大模型 AI 学习资料已经上传 CSDN,需要的话微信扫描下方 CSDN 官方认证二维码免费领取【保证100%免费】
第一阶段(10天):初阶应用
这个阶段让你对大模型 AI 有个最前沿的认识,理解程度超过 95% 的人。别人只会跟 AI 聊天,你能调教 AI,还能用代码把大模型和业务接起来。
- 大模型 AI 能干什么
- 大模型是怎样获得「智能」的
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- ……
第二阶段(30天):高阶应用
正式进入进阶实战,学会构造私有知识库、扩展 AI 能力,快速开发一个完整的基于 agent 的对话机器人。掌握功能最强的大模型开发框架,跟上最新技术进展。适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings嵌入向量,将文本转换为数值向量,用于语义搜索、聚类等任务。)
- 向量数据库A database system designed to store and perform high-dimensional semantic similarity searches on vector embeddings of data.与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- ……
第三阶段(30天):模型训练
学到这里,你基本可以找一份大模型 AI 相关的工作了,自己也能训练 GPT。通过微调训练自己的垂直大模型,独立训练开源多模态大模型,掌握更多技术方案。
到此为止大概两个月,你已经是个“AI 小子”了。还想往下走吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器与损失函数简介
- 小实验:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer 结构简介
- 轻量化微调
- 实验数据集的构建
- ……
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有个基本认知,能在云端和本地等多种环境下部署大模型,找到适合自己的项目或创业方向,做个被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- ……
学习是个过程,只要学就会有挑战。天道酬勤,越努力越优秀。
15 天内完成所有任务,你是天才。能完成 60% 到 70%,你已经具备成为一名大模型 AI 的正确特征了。
这份完整版的大模型 AI 学习资料已经上传 CSDN,需要的话微信扫描下方 CSDN 官方认证二维码免费领取【保证100%免费】
常见问题(FAQ)
传统RAG框架和GraphRAG框架有什么区别?
传统RAG框架串联文本切块、向量化、检索、重排、生成等环节,灵活可调;GraphRAG则引入知识图谱,加强实体、社区与文本切块的联系,提高召回率和准确性。
有哪些好用的开源RAG框架推荐?
文章汇总了17个传统RAG框架,如RAGFlow、QAnything、Dify、FastGPT等,以及7个GraphRAG框架,如LightRAG、微软GraphRAG、nano-GraphRAG等,均附GitHub地址。
大模型AI学习路线分为哪几个阶段?
分为三个阶段:第一阶段10天初阶应用,理解大模型AI并学会调教;第二阶段30天高阶应用,实战构造私有知识库和Agent对话机器人;第三阶段30天模型训练,微调垂直大模型。
版权与免责声明:本文仅用于信息分享与交流,不构成任何形式的法律、投资、医疗或其他专业建议,也不构成对任何结果的承诺或保证。
文中提及的商标、品牌、Logo、产品名称及相关图片/素材,其权利归各自合法权利人所有。本站内容可能基于公开资料整理,亦可能使用 AI 辅助生成或润色;我们尽力确保准确与合规,但不保证完整性、时效性与适用性,请读者自行甄别并以官方信息为准。
若本文内容或素材涉嫌侵权、隐私不当或存在错误,请相关权利人/当事人联系本站,我们将及时核实并采取删除、修正或下架等处理措施。也请勿在评论或联系信息中提交身份证号、手机号、住址等个人敏感信息。




