利用知识图谱提高 RAG 应用的准确性

大数据杂货铺

发布于 2024-04-02 08:04:23

8450

文章被收录于专栏：大数据杂货铺大数据杂货铺

在 RAG 应用中使用 Neo4j 和 LangChain 构建和检索知识图谱信息的实用指南

图片由DALL-E创作

图表搜索增强生成（GraphRAG）正在蓬勃发展，并成为传统向量搜索搜索方法的有力补充。这种方法利用图数据库的形态将数据组织为节点和关系，以增强搜索信息的深度和上下文。

知识图谱示例

图表非常擅长通过结构化的方式表示和存储互连的信息，轻松获取不同数据类型之间的复杂关系和属性。相比之下，向量数据库通常难以处理这些结构化信息，因为它们的优势在于通过高维处理非格式化数据。在 RAG 应用程序中，您可以将结构化的图形数据与通过非结构化的文本进行向量搜索相结合，以实现两全其美。这就是我们将在这篇博文中演示的内容。

知识图谱很棒，但如何创造一个呢？

构建知识图谱通常是最棘手的步骤。它涉及收集和构建数据，这需要对领域和图形建模有深入的了解。

为了简化这个过程，我们一直在尝试大语言模型。借助对语言和上下文的深刻理解，大语言模型可以自动化知识图谱创建过程的重要部分。通过分析文本数据，这些模型可以识别实体、理解它们的关系，并建议如何在图形结构中最好地表示它们。

作为这些实验的结果，我们在 LangChain 中添加了第一个版本的图构建模块，我们将在这篇博文中进行演示。

该代码可在GitHub上获取。

Neo4j环境设置

您需要设置一个 Neo4j 实例。请按照本文中的示例进行操作。最简单的方法是在 Neo4j Aura上启动一个免费实例，它提供 Neo4j 数据库的云实例。或者，您还可以通过下载Neo4j 桌面应用程序并创建本地数据库实例来设置 Neo4j 数据库的本地实例。

Shell os.environ["OPENAI_API_KEY"] = "sk-" os.environ["NEO4J_URI"] = "bolt://localhost:7687" os.environ["NEO4J_USERNAME"] = "neo4j" os.environ["NEO4J_PASSWORD"] = "password" graph = Neo4jGraph()

另外，您必须提供OpenAI Key，因为我们将在本博文中使用他们的模型。

数据摄取

在本示例中，我们将使用Elizabeth I’s 维基百科页面。我们可以使用LangChain loaders从维基百科获取和分割文档。

Shell # Read the wikipedia article raw_documents = WikipediaLoader(query="Elizabeth I").load() # Define chunking strategy text_splitter = TokenTextSplitter(chunk_size=512, chunk_overlap=24) documents = text_splitter.split_documents(raw_documents[:3])

是时候根据搜索到的文档构建图了。因此，我们实现了一个LLMGraphTransformer模块，可以显着简化在图数据库中构建和存储知识图。

Shell llm=ChatOpenAI(temperature=0, model_name="gpt-4-0125-preview") llm_transformer = LLMGraphTransformer(llm=llm) # Extract graph data graph_documents = llm_transformer.convert_to_graph_documents(documents) # Store to neo4j graph.add_graph_documents( graph_documents, baseEntityLabel=True, include_source=True )

您可以定义使用哪个LLM知识图谱生成链。目前，我们仅支持 OpenAI 和 Mistral 的函数调用模型。但是，我们计划在未来扩展LLM的选择范围。在此示例中，我们使用最新的 GPT-4。请注意，生成的图的质量取决于您使用的模型。从理论上讲，您总是想使用最有能力的人。LLM图转换器返回图形文档，可以通过该方法将其add_graph_documents导入Neo4j。该baseEntityLabel参数为每个分配节点一个附加__Entity__标签，从而增强索引和查询性能。该include_source参数将节点链接到其原始文档，从而促进数据的可追溯性和上下文理解。

您可以在 Neo4j 浏览器中检查生成的图形。

生成的部分图

请注意，该图仅代表生成图的一部分。

RAG 混合检索

图生成后，我们将使用混合搜索方法，将索引和关键字与 RAG 应用程序的图搜索相结合。

结合（提供+关键字）和图混合搜索方法。图片由作者提供

该图说明了搜索过程，从用户提出问题开始，然后将问题定向到 RAG 搜索器。该搜索器采用关键字和向量搜索来搜索非结构化文本数据，并将其与从知识图谱中收集的信息Neo4j 同时具有关键字索引和向量索引，因此您可以使用单个数据库系统实现所有三个搜索选项。从这些来源收集的数据将输入大语言模型以生成并提供最终答案。

非结构化数据检索器

您可以使用该Neo4jVector.from_existing_graph方法将关键字和支持搜索添加到文档中。此方法为混合搜索方法配置和支持搜索索引，以标记为的节点为目标Document。另外，如果文本嵌入值删除，它还会计算他们。

Shell vector_index = Neo4jVector.from_existing_graph( OpenAIEmbeddings(), search_type="hybrid", node_label="Document", text_node_properties=["text"], embedding_node_property="embedding" )

然后可以使用该similarity_search方法调用向量索引。

图检索器

另一方面，配置图检索更加复杂，但提供了更多自由。此示例将使用全文索引来识别相关节点并返回它们的直接邻居。

图检索器。图片由作者提供

图检索器首先识别输入中的相关实体。为简单起见，我们指示大语言模型来识别人员、组织和地点。为了实现这一点，我们将使用LCEL和新添加的with_structured_output方法来实现这一点。

Shell # Extract entities from text class Entities(BaseModel): """Identifying information about entities.""" names: List[str] = Field( ..., description="All the person, organization, or business entities that " "appear in the text", ) prompt = ChatPromptTemplate.from_messages( [ ( "system", "You are extracting organization and person entities from the text.", ), ( "human", "Use the given format to extract information from the following " "input: {question}", ), ] ) entity_chain = prompt | llm.with_structured_output(Entities)

让我们测试一下：

Shell entity_chain.invoke({"question": "Where was Amelia Earhart born?"}).names # ['Amelia Earhart']

太好了，现在我们可以检测问题中的实体，让我们使用全文索引将它们映射到知识图谱。首先，我们需要定义一个全文索引和一个函数，该函数将生成允许一些拼写错误的全文查询，这里我们不会详细介绍。

Shell graph.query( "CREATE FULLTEXT INDEX entity IF NOT EXISTS FOR (e:__Entity__) ON EACH [e.id]") def generate_full_text_query(input: str) -> str: """ Generate a full-text search query for a given input string. This function constructs a query string suitable for a full-text search. It processes the input string by splitting it into words and appending a similarity threshold (~2 changed characters) to each word, then combines them using the AND operator. Useful for mapping entities from user questions to database values, and allows for some misspelings. """ full_text_query = "" words = [el for el in remove_lucene_chars(input).split() if el] for word in words[:-1]: full_text_query += f" {word}~2 AND" full_text_query += f" {words[-1]}~2" return full_text_query.strip()

现在让我们把它们放在一起。

Shell # Fulltext index query def structured_retriever(question: str) -> str: """ Collects the neighborhood of entities mentioned in the question """ result = "" entities = entity_chain.invoke({"question": question}) for entity in entities.names: response = graph.query( """CALL db.index.fulltext.queryNodes('entity', $query, {limit:2}) YIELD node,score CALL { MATCH (node)-[r:!MENTIONS]->(neighbor) RETURN node.id + ' - ' + type(r) + ' -> ' + neighbor.id AS output UNION MATCH (node)<-[r:!MENTIONS]-(neighbor) RETURN neighbor.id + ' - ' + type(r) + ' -> ' + node.id AS output } RETURN output LIMIT 50 """, {"query": generate_full_text_query(entity)}, ) result += "\n".join([el['output'] for el in response]) return result

该structured_retriever函数首先检测用户问题中的实体。接下来，它迭代检测到的实体并使用 Cypher 模板来检索相关节点的邻域。我们来测试一下吧！