當(dāng)前位置：首頁 > 科技 > 軟件

把LangChain跑起來的三個方法

來源：責(zé)編：時間：2023-08-05 11:44:41 4485觀看

導(dǎo)讀使用LangChain開發(fā)LLM應(yīng)用時，需要機器進(jìn)行GLM部署，好多同學(xué)第一步就被勸退了，那么如何繞過這個步驟先學(xué)習(xí)LLM模型的應(yīng)用，對Langchain進(jìn)行快速上手？本片講解3個把LangChain跑起來的方法，如有錯誤歡迎糾正。Langchain官方文檔

使用LangChain開發(fā)LLM應(yīng)用時，需要機器進(jìn)行GLM部署，好多同學(xué)第一步就被勸退了，那么如何繞過這個步驟先學(xué)習(xí)LLM模型的應(yīng)用，對Langchain進(jìn)行快速上手？本片講解3個把LangChain跑起來的方法，如有錯誤歡迎糾正。

Langchain官方文檔地址：https://python.langchain.com/

基礎(chǔ)功能

LLM 調(diào)用

支持多種模型接口，比如 OpenAI、HuggingFace、AzureOpenAI …
Fake LLM，用于測試
緩存的支持，比如 in-mem（內(nèi)存）、SQLite、Redis、SQL
用量記錄
支持流模式（就是一個字一個字的返回，類似打字效果）

Prompt管理，支持各種自定義模板

擁有大量的文檔加載器，比如 Email、Markdown、PDF、Youtube …

對索引的支持

文檔分割器
向量化
對接向量存儲與搜索，比如 Chroma、Pinecone、Qdrand

Chains

LLMChain
各種工具Chain
LangChainHub

詳細(xì)地址可參考：https://www.langchain.cn/t/topic/35

測試Langchain工程的3個方法：

1 使用Langchian提供的FakeListLLM

為了節(jié)約時間,直接上代碼

import osfrom decouple import configfrom langchain.agents import initialize_agentfrom langchain.agents import AgentTypefrom langchain.agents import load_tools

這里mock下ChatGPT,使用mockLLm

#from langchain.llms import OpenAIfrom langchain.llms.fake import FakeListLLMos.environ["OPENAI_API_KEY"] = config('OPENAI_API_KEY')

REPL 是 “Read–Eval–Print Loop”（讀取-求值-打印-循環(huán)）的縮寫，它是一種簡單的、交互式的編程環(huán)境。

在 REPL 環(huán)境中，用戶可以輸入一條或多條編程語句，系統(tǒng)會立即執(zhí)行這些語句并輸出結(jié)果。這種方式非常適合進(jìn)行快速的代碼試驗和調(diào)試。

tools = load_tools(["python_repl"])responses=[    "Action: Python REPL/nAction Input: chatGpt原理",    "Final Answer: mock答案"]llm = FakeListLLM(responses=responses)agent = initialize_agent(tools, llm, agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, verbose=True)agent.run("chatGpt原理2")

2 使用Langchian提供的HumanInputLLM，訪問維基百科查詢

from langchain.llms.human import HumanInputLLMfrom langchain.agents import load_toolsfrom langchain.agents import initialize_agentfrom langchain.agents import AgentTypefrom wikipedia import set_lang

使用維基百科工具

tools = load_tools(["wikipedia"])

這里必須要設(shè)置為中文url前綴，不然訪問不了

set_lang("zh")

初始化LLM

llm = HumanInputLLM(prompt_func=lambda prompt: print(f"/n===PROMPT====/n{prompt}/n=====END OF PROMPT======"))

初始化agent

agent = initialize_agent(tools, llm, agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, verbose=True)agent.run("喜羊羊")

3 使用huggingfacehttps://huggingface.co/docs

1）注冊賬號

2）創(chuàng)建Access Tokens

Demo：使用模型對文檔進(jìn)行摘要

from langchain.document_loaders import UnstructuredFileLoaderfrom langchain.chains.summarize import load_summarize_chainfrom langchain.text_splitter import RecursiveCharacterTextSplitterfrom langchain import HuggingFaceHubimport osfrom decouple import configfrom langchain.agents import load_tools

這里mock下ChatGPT,使用HUGGINGFACEHUB

os.environ["HUGGINGFACEHUB_API_TOKEN"] = config('HUGGINGFACEHUB_API_TOKEN')

導(dǎo)入文本

loader = UnstructuredFileLoader("docment_store/helloLangChain.txt")

將文本轉(zhuǎn)成 Document 對象

document = loader.load()print(f'documents:{len(document)}')

初始化文本分割器

text_splitter = RecursiveCharacterTextSplitter(    chunk_size = 500,    chunk_overlap = 0)

切分文本

split_documents = text_splitter.split_documents(document)print(f'documents:{len(split_documents)}')

加載 LLM 模型

overal_temperature = 0.1flan_t5xxl = HuggingFaceHub(repo_id="google/flan-t5-xxl",                          model_kwargs={"temperature":overal_temperature,                                        "max_new_tokens":200}                         ) llm = flan_t5xxltools = load_tools(["llm-math"], llm=llm)

創(chuàng)建總結(jié)鏈

chain = load_summarize_chain(llm, chain_type="refine", verbose=True)

執(zhí)行總結(jié)鏈

chain.run(split_documents)

作者：京東科技楊建

來源：京東云開發(fā)者社區(qū)

本文鏈接：http://www.www897cc.com/showinfo-26-84-0.html把LangChain跑起來的三個方法

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com

上一篇： Automa-通過連接塊來自動化你的瀏覽器

下一篇：一文看懂為蘋果Vision Pro開發(fā)應(yīng)用程序

標(biāo)簽：

熱門焦點

印度登月最關(guān)鍵一步！月船三號今晚進(jìn)入環(huán)月軌道

8月5日消息，據(jù)印度官方消息，月船三號將于北京時間今晚21時30分左右開始近月制動進(jìn)入環(huán)月軌道。這是該探測器能夠成功的最關(guān)鍵步驟之一，如果成功將開始圍
這款新興工具平臺，讓你的電腦效率翻倍

隨著信息技術(shù)的發(fā)展,我們獲取信息的渠道越來越多,但是處理信息的效率卻成為一個瓶頸。于是各種工具應(yīng)運而生,都在爭相解決我們的工作效率問題。今天我要給大家介紹一款效率
使用AIGC工具提升安全工作效率

在日常工作中，安全人員可能會涉及各種各樣的安全任務(wù)，包括但不限于：開發(fā)某些安全工具的插件，滿足自己特定的安全需求；自定義github搜索工具，快速查找所需的安全資料、漏洞poc、exp
消費結(jié)構(gòu)調(diào)整丨巨頭低價博弈，拼多多還卷得動嗎？

來源：征探財經(jīng)作者：陳香羽隨著流量紅利的退潮，電商的存量博弈越來越明顯。曾經(jīng)主攻中高端與品質(zhì)的淘寶天貓、京東重拾“低價”口號。而過去與他們錯位競爭的拼多多，靠
品牌洞察丨服務(wù)本地，美團(tuán)直播成效幾何？

來源：17PR7月11日，美團(tuán)App首頁推薦位出現(xiàn)“美團(tuán)直播”的固定入口。在直播聚合頁面，外賣“神槍手”直播間、美團(tuán)旅行直播間、美團(tuán)買菜直播間等均已上線，同時
年輕人的“職場羞恥感”，無處不在

作者：馮曉亭陶淘李欣張琳馬舒葉來源：燃次元“人在職場，應(yīng)該選擇什么樣的著裝？”近日，在網(wǎng)絡(luò)上，一個與著裝相關(guān)的帖子引發(fā)關(guān)注，在該帖子里，一位在高級寫字樓亞洲金
由于成本持續(xù)增加，筆記本產(chǎn)品價格預(yù)計將明顯上漲

根據(jù)知情人士透露，由于材料、物流等成本持續(xù)增加，筆記本產(chǎn)品價格預(yù)計將在2021年下半年有明顯上漲。進(jìn)入6月下旬以來，全球半導(dǎo)體芯片缺貨情況加劇，顯卡、處理器
電博會上海爾智家模擬500平大平層，還原生活空間沉浸式體驗

電博會為了更好地讓參展觀眾真正感受到智能家居的絕妙之處，海爾智家的程傳嶺先生同樣介紹了展會上海爾智家的模擬500平大平層，還原生活空間沉浸式體驗。程傳
“買真退假” 這種“羊毛”不能薅

□ 法治日報記者王春　　□ 本報通訊員胡佳麗　　2020年初，還在上大學(xué)的小東加入了一個大學(xué)生兼職QQ群。群主“七王”在群里介紹一些刷單賺

日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

把LangChain跑起來的三個方法

基礎(chǔ)功能

測試Langchain工程的3個方法：

1 使用Langchian提供的FakeListLLM

2 使用Langchian提供的HumanInputLLM，訪問維基百科查詢

3 使用huggingfacehttps://huggingface.co/docs

印度登月最關(guān)鍵一步！月船三號今晚進(jìn)入環(huán)月軌道

這款新興工具平臺，讓你的電腦效率翻倍

使用AIGC工具提升安全工作效率

消費結(jié)構(gòu)調(diào)整丨巨頭低價博弈，拼多多還卷得動嗎？

品牌洞察丨服務(wù)本地，美團(tuán)直播成效幾何？

年輕人的“職場羞恥感”，無處不在

由于成本持續(xù)增加，筆記本產(chǎn)品價格預(yù)計將明顯上漲

電博會上海爾智家模擬500平大平層，還原生活空間沉浸式體驗

“買真退假” 這種“羊毛”不能薅

最新推薦

猜你喜歡

熱門推薦

相關(guān)資訊