日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當(dāng)前位置:首頁 > 科技  > 軟件

使用LangChain和LangGraph大幅提升RAG效果

來源: 責(zé)編: 時(shí)間:2024-03-26 17:43:36 200觀看
導(dǎo)讀一、簡介LangGraph是LangChain、LangServe和LangSmith系列的最新成員,旨在使用LLM構(gòu)建生成式人工智能應(yīng)用程序。請(qǐng)記住,所有這些都是獨(dú)立的包,必須單獨(dú)進(jìn)行pip安裝。在深入學(xué)習(xí)LangGraph之前,需要了解LangChain的兩個(gè)主要

一、簡介

LangGraph是LangChain、LangServe和LangSmith系列的最新成員,旨在使用LLM構(gòu)建生成式人工智能應(yīng)用程序。請(qǐng)記住,所有這些都是獨(dú)立的包,必須單獨(dú)進(jìn)行pip安裝。Uoi28資訊網(wǎng)——每日最新資訊28at.com

在深入學(xué)習(xí)LangGraph之前,需要了解LangChain的兩個(gè)主要概念。Uoi28資訊網(wǎng)——每日最新資訊28at.com

1. 鏈:圍繞LLM編寫的程序,用于執(zhí)行任務(wù),例如自動(dòng)SQL編寫或NER提取鏈等。請(qǐng)注意,鏈不能用于任何其他任務(wù)(甚至不能用于一般用例),如果嘗試這樣做,可能會(huì)損壞鏈。鏈中要遵循的步驟是預(yù)定義的,不可靈活調(diào)整。Uoi28資訊網(wǎng)——每日最新資訊28at.com

2. 代理:鏈的更加靈活版本,代理通常是啟用第三方工具(例如谷歌搜索、YouTube)的LLM,由LLM本身決定下一步如何解決給定的查詢。Uoi28資訊網(wǎng)——每日最新資訊28at.com

現(xiàn)在,當(dāng)處理現(xiàn)實(shí)世界的問題時(shí),一個(gè)常見的問題是希望找到介于鏈和代理之間的解決方案。即不像鏈那樣硬編碼,但也不像代理那樣完全由LLM驅(qū)動(dòng)。Uoi28資訊網(wǎng)——每日最新資訊28at.com

二、LangGraph

LangGraph是以LangChain為核心,用于創(chuàng)建工作流程中的循環(huán)圖的工具。因此,我們假設(shè)以下示例:Uoi28資訊網(wǎng)——每日最新資訊28at.com

你希望在知識(shí)庫上搭建一個(gè)基于RAG的檢索系統(tǒng)。現(xiàn)在,你希望引入這樣一種情況:如果RAG的輸出未滿足特定質(zhì)量要求,代理/鏈應(yīng)該再次檢索數(shù)據(jù),但這次是自行更改提示。并且重復(fù)此過程,直到達(dá)到質(zhì)量閾值為止。Uoi28資訊網(wǎng)——每日最新資訊28at.com

使用LangGraph可以實(shí)現(xiàn)這種循環(huán)邏輯。這只是一個(gè)示例,使用LangGraph還可以做更多事情。Uoi28資訊網(wǎng)——每日最新資訊28at.com

注:可以將其視為向鏈中引入循環(huán)邏輯,使其成為循環(huán)鏈。Uoi28資訊網(wǎng)——每日最新資訊28at.com

  • LangGraph對(duì)于構(gòu)建Autogen或MetaGPT等多代理應(yīng)用程序至關(guān)重要。

顧名思義,LangGraph具有一般圖形所具有的所有組件,例如節(jié)點(diǎn)、邊等,接下來通過一個(gè)示例來了解。Uoi28資訊網(wǎng)——每日最新資訊28at.com

三、使用LangGraph改善RAG

在此示例中,希望將RAG系統(tǒng)在數(shù)據(jù)庫中的最終輸出減少到不超過30個(gè)字符。如果輸出長度大于30個(gè)字符,則希望引入循環(huán),使用不同的提示再次嘗試,直到長度小于30個(gè)字符為止。這是一個(gè)演示目的的基本邏輯。你甚至可以實(shí)現(xiàn)復(fù)雜的邏輯來改善RAG結(jié)果。Uoi28資訊網(wǎng)——每日最新資訊28at.com

我們將創(chuàng)建的圖形如下所示。Uoi28資訊網(wǎng)——每日最新資訊28at.com

圖片圖片Uoi28資訊網(wǎng)——每日最新資訊28at.com

此處使用的版本為 langchain===0.0.349, openai===1.3.8, langgraph===0.0.26。Uoi28資訊網(wǎng)——每日最新資訊28at.com

3.1 首先,讓我們導(dǎo)入重要的內(nèi)容并初始化LLM。這里使用的是OpenAI API,但你也可以使用其他LLM。

from typing import Dict, TypedDict, Optionalfrom langgraph.graph import StateGraph, ENDfrom langchain.vectorstores import Chromafrom langchain.chains import RetrievalQAfrom langchain.llms import OpenAIfrom langchain.embeddings.openai import OpenAIEmbeddingsllm = OpenAI(openai_api_key='your API')

接下來,我們將定義一個(gè)StateGraph。Uoi28資訊網(wǎng)——每日最新資訊28at.com

class GraphState(TypedDict):    question: Optional[str] = None    classification: Optional[str] = None    response: Optional[str] = None    length: Optional[int] = None    greeting: Optional[str] = Noneworkflow = StateGraph(GraphState)

什么是StateGraph?Uoi28資訊網(wǎng)——每日最新資訊28at.com

StateGraph是任何LangGraph流程的核心,它存儲(chǔ)了在執(zhí)行工作流程時(shí)我們將存儲(chǔ)的各種變量的狀態(tài)。在本例中,我們有5個(gè)變量,其值在執(zhí)行圖形時(shí)將進(jìn)行更新,并將與所有邊和節(jié)點(diǎn)共享。Uoi28資訊網(wǎng)——每日最新資訊28at.com

3.2 接下來,讓我們從現(xiàn)有向量數(shù)據(jù)庫中初始化一個(gè)RAG檢索鏈。代碼已在以下視頻中進(jìn)行了解釋。

def retriever_qa_creation():        embeddings = OpenAIEmbeddings()        db = Chroma(embedding_functinotallow=embeddings,persist_directory='/database',collection_name='details')        qa = RetrievalQA.from_chain_type(llm=llm, chain_type="stuff", retriever=db.as_retriever())        return qarag_chain = retriever_qa_creation()

3.3 接下來,我們將向該圖形添加節(jié)點(diǎn)。

def classify(question):    return llm("classify intent of given input as greeting or not_greeting. Output just the class.Input:{}".format(question)).strip()def classify_input_node(state):    question = state.get('question', '').strip()    classification = classify(question)     return {"classification": classification}def handle_greeting_node(state):    return {"greeting": "Hello! How can I help you today?"}def handle_RAG(state):    question = state.get('question', '').strip()    prompt = question    if state.get("length")<30:         search_result = rag_chain.run(prompt)    else:         search_result = rag_chain.run(prompt+'. Return total count only.')    return {"response": search_result,"length":len(search_result)}def bye(state):    return{"greeting":"The graph has finished"}workflow.add_node("classify_input", classify_input_node)workflow.add_node("handle_greeting", handle_greeting_node)workflow.add_node("handle_RAG", handle_RAG)workflow.add_node("bye", bye)

這需要一些解釋。Uoi28資訊網(wǎng)——每日最新資訊28at.com

  • 每個(gè)節(jié)點(diǎn)都是一個(gè)Python函數(shù),它可以:

①讀取任何狀態(tài)變量。Uoi28資訊網(wǎng)——每日最新資訊28at.com

②更新任何狀態(tài)變量。在這種情況下,每個(gè)節(jié)點(diǎn)的返回函數(shù)都會(huì)更新某個(gè)或某些狀態(tài)變量的狀態(tài)/值。Uoi28資訊網(wǎng)——每日最新資訊28at.com

  • 使用state.get()來讀取任何狀態(tài)變量。
  • handle_RAG節(jié)點(diǎn)可以幫助我們實(shí)現(xiàn)我們希望的循環(huán)自定義邏輯。如果輸出的長度<30,則使用提示符A;否則使用提示符B。對(duì)于第一種情況(當(dāng)RAG節(jié)點(diǎn)尚未執(zhí)行時(shí)),我們將傳遞length=0,并提供一個(gè)提示。

3.4 接下來,我們將添加入口點(diǎn)和邊緣。

workflow.set_entry_point("classify_input")workflow.add_edge('handle_greeting', END)workflow.add_edge('bye', END)

在上述的代碼片段中,Uoi28資訊網(wǎng)——每日最新資訊28at.com

  • 我們向圖中添加了一個(gè)入口點(diǎn),即無論輸入提示是什么,都會(huì)執(zhí)行的第一個(gè)節(jié)點(diǎn)函數(shù)。
  • A節(jié)點(diǎn)和B節(jié)點(diǎn)之間的邊界定義了在節(jié)點(diǎn)A之后執(zhí)行節(jié)點(diǎn)B。在這種情況下,如果在我們的工作流中出現(xiàn)了handle_greeting或bye,則圖形應(yīng)該END(一個(gè)特殊的節(jié)點(diǎn)來終止工作流)。

3.5 接下來,讓我們添加條件邊界。

def decide_next_node(state):    return "handle_greeting" if state.get('classification') == "greeting" else "handle_RAG"def check_RAG_length(state):    return "handle_RAG" if state.get("length")>30 else "bye"workflow.add_conditional_edges(    "classify_input",    decide_next_node,    {        "handle_greeting": "handle_greeting",        "handle_RAG": "handle_RAG"    })workflow.add_conditional_edges(    "handle_RAG",    check_RAG_length,    {        "bye": "bye",        "handle_RAG": "handle_RAG"    })

條件邊界可根據(jù)條件(例如if-else)在兩個(gè)節(jié)點(diǎn)之間進(jìn)行選擇。在創(chuàng)建的兩個(gè)條件邊界中:Uoi28資訊網(wǎng)——每日最新資訊28at.com

第一個(gè)條件邊界Uoi28資訊網(wǎng)——每日最新資訊28at.com

當(dāng)遇到classify_input時(shí),根據(jù)decide_next_node函數(shù)的輸出選擇handle_greeting或handle_RAG。Uoi28資訊網(wǎng)——每日最新資訊28at.com

第二個(gè)條件邊界Uoi28資訊網(wǎng)——每日最新資訊28at.com

如果遇到handle_RAG,則根據(jù)check_RAG_length條件選擇handle_RAG或bye。Uoi28資訊網(wǎng)——每日最新資訊28at.com

3.6 編譯并調(diào)用提示。初始時(shí)保持length變量設(shè)置為0。

app = workflow.compile()app.invoke({'question':'Mehul developed which projects?','length':0})
# 輸出{'question': 'Mehul developed which projects?', 'classification': 'not_greeting', 'response': ' 4', 'length': 2, 'greeting': 'The graph has finished'}

對(duì)于上述提示,圖形流程如下所示:Uoi28資訊網(wǎng)——每日最新資訊28at.com

classify_input: 情感將為not_greeting。Uoi28資訊網(wǎng)——每日最新資訊28at.com

由于第一個(gè)條件邊界,移至handle_RAG。Uoi28資訊網(wǎng)——每日最新資訊28at.com

由于length=0,使用第一個(gè)提示并檢索答案(總長度將大于30)。Uoi28資訊網(wǎng)——每日最新資訊28at.com

由于第二個(gè)條件邊界,再次移至handle_RAG。Uoi28資訊網(wǎng)——每日最新資訊28at.com

由于length>30,使用第二個(gè)提示符。Uoi28資訊網(wǎng)——每日最新資訊28at.com

由于第二個(gè)條件邊界,移至bye。Uoi28資訊網(wǎng)——每日最新資訊28at.com

END。Uoi28資訊網(wǎng)——每日最新資訊28at.com

如果沒有使用LangGraph:Uoi28資訊網(wǎng)——每日最新資訊28at.com

rag_chain.run("Mehul developed which projects?")# 輸出"Mehul developed projects like ABC, XYZ, QWERTY. Not only these, he has major contribution in many other projects as well at OOO organization"

3.7 下一個(gè)輸入。

app.invoke({'question':'Hello bot','length':0})# 輸出{'question': 'Hello bot', 'classification': 'greeting', 'response': None, 'length': 0, 'greeting': 'Hello! How can I help you today?'}

這里的流程會(huì)更簡單。Uoi28資訊網(wǎng)——每日最新資訊28at.com

classify_input: 情感將為greeting。Uoi28資訊網(wǎng)——每日最新資訊28at.com

由于第一個(gè)條件邊界,移至handle_greeting。Uoi28資訊網(wǎng)——每日最新資訊28at.com

END。Uoi28資訊網(wǎng)——每日最新資訊28at.com

雖然我在這里應(yīng)用的條件相當(dāng)簡單,但通過添加更復(fù)雜的條件,這個(gè)框架可以很容易地用于改進(jìn)你的結(jié)果。Uoi28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-26-79462-0.html使用LangChain和LangGraph大幅提升RAG效果

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com

上一篇: C# 向下轉(zhuǎn)型與 is 運(yùn)算符:理解它們?cè)陬愋桶踩械慕巧?/a>

下一篇: 開發(fā)者齊聚英特爾 OpenVINO? DevCon 2024,展望混合 AI 最前沿

標(biāo)簽:
  • 熱門焦點(diǎn)
Top 主站蜘蛛池模板: 龙江县| 砚山县| 古蔺县| 宁乡县| 阳春市| 永嘉县| 大姚县| 富源县| 前郭尔| 景泰县| 临桂县| 昭苏县| 阳山县| 卓尼县| 清水河县| 卫辉市| 京山县| 澜沧| 依安县| 芦溪县| 武汉市| 随州市| 铜陵市| 虎林市| 保康县| 宁晋县| 凌海市| 历史| 英超| 墨玉县| 香格里拉县| 昆明市| 宜春市| 河西区| 望城县| 新源县| 阿巴嘎旗| 皮山县| 宁河县| 临江市| 广德县|