Generated with sparks and insights from 55 sources

img8

img9

img10

img11

img12

img13

Introduction

  • 高级RAG(检索增强生成)技术通过结合搜索技术和大语言模型(LLM)来生成更准确的回答。

  • CRAG(纠正检索增强生成)是高级RAG的一种,通过引入检索评估器来评估检索到的文档与查询之间的关系。

  • LangGraph是LangChain生态系统的扩展,允许以图的形式构建AI应用程序,包括高级RAG。

  • 高级RAG技术包括分块、向量化、搜索索引、重新排名与过滤、查询变换等多个步骤。

  • 高级RAG技术在大语言模型的时代得到了广泛应用,特别是在问答服务和数据交互应用程序中。

CRAG概述 [1]

  • CRAG(纠正检索增强生成)通过引入检索评估器来评估检索到的文档与查询之间的关系。

  • CRAG的关键思想是将检索到的信息分为正确、错误和模糊三类,并分别处理。

  • 正确的信息会被知识提炼算法重写,错误的信息会被丢弃并使用网页搜索引擎检索外部知识。

  • 模糊的信息会通过网页搜索获取额外的信息,并结合知识提炼算法。

  • CRAG的三个关键组成部分是检索评估器、知识提炼算法和知识搜索。

img8

img9

img10

img11

img12

img13

LangGraph介绍

  • LangGraph是LangChain生态系统的扩展,允许以图的形式构建AI应用程序。

  • LangGraph将工作流程视为循环图结构,其中每个节点代表一个函数或一个Langchain可运行对象。

  • LangGraph提供了一个有状态的解决方案,其中全局状态对象可以在节点之间共享。

  • 节点可以是任何函数或Langchain可运行对象,如工具。

  • 边定义了节点之间的方向,有状态的图旨在管理和更新状态对象。

img8

img9

img10

img11

img12

img13

高级RAG技术步骤 [2]

  • 分块(Chunking):将文档内容分割成小块,以便更准确地代表其语义含义。

  • 向量化(Vectorisation):选择一个模型来嵌入这些小块,常用模型包括bge-large和E5。

  • 搜索索引:存储向量化内容的索引,常用工具包括faiss、nmslib和annoy。

  • 重新排名与过滤:通过过滤、重新排列或转换搜索结果来优化它们。

  • 查询变换:利用大语言模型对用户输入进行调整,以提升检索质量。

img8

img9

img10

img11

img12

img13

应用场景 [2]

  • 问答服务:结合网络搜索引擎和大语言模型的问答服务。

  • 数据交互应用程序:数以百计的数据交互应用程序依赖RAG架构。

  • 向量搜索:RAG推动了向量搜索领域的发展。

  • 文档检索:在大型数据库中高效检索信息并整合成含有参考来源的答案。

  • 聊天引擎:构建能对同一查询多次响应的聊天逻辑,考虑对话的上下文。

img8

img9

img10

img11

img12

img13

相关工具和平台 [2]

  • LangChain:一个开源库,用于基于大语言模型的管道和应用程序。

  • LlamaIndex:另一个开源库,提供了多种向量存储索引和其他简单的索引类型。

  • faiss:一种向量索引工具,基于近似最近邻居算法。

  • nmslib:另一个向量索引工具,基于近似最近邻居算法。

  • Pinecone:托管服务,自动处理数据摄取流程。

  • Weaviate:另一个托管服务,提供向量数据库。

  • Chroma:提供向量数据库的托管服务。

  • OpenAI:提供大语言模型的市场领头羊。

img8

img9

img10

img11

img12

img13

Related Videos

<br><br>

<div class="-md-ext-youtube-widget"> { "title": "\u57fa\u4e8eLangChain\u9ad8\u7ea7RAG\u6280\u672f\u7684\u672c\u5730\u77e5\u8bc6\u5e93- Chroma\u5411\u91cf\u5b58\u50a8 ...", "link": "https://www.youtube.com/watch?v=07AtVFrNkaQ", "channel": { "name": ""}, "published_date": "Mar 20, 2024", "length": "" }</div>