1 月 16 日消息,網易有道今日宣布自研的知識庫問答引擎 QAnything 正式開源,除了可以調用云端大模型服務,還支持純本地部署,目前可免費在開源社區 Github 內進行下載。
據介紹,QAnything一鍵部署即可使用,系統支持 Word、PPT、Excel、PDF、圖片等多種文檔格式,直接導入進去即可像“ChatGPT”一樣問答。官方推薦RTX 3090 及以上配置電腦本地部署。
QAnything 的主要原理是基于檢索增強的生成(Retrieval Augmented Generation,簡稱 RAG)。RAG 是目前很火的一種技術框架,它能夠利用檢索外部內容的方式增強大語言模型的準確度、專業能力和個性化等各方面的性能。
網易有道表示,通用大模型能力很強,但無法使用用戶的私有數據,且存在胡亂編造的幻覺問題。而 QAnything 號稱結合了用戶私有數據和大模型的優勢 —— 用戶的任何內容,以任意的形式存在,比如各種格式的文檔,音頻,數據庫等,都可以在 QAnything 的支持下,變成可以針對其內容進行問答的使用方式,通過這個技術框架用戶可以很方便地搭建自己的智能知識助手。正如它的名字一樣,Q 是 question,A 是 answer,QAnything 的目標就是萬物皆可問。
值得一提的是,本次網易有道開源的 QAnything 是一套完整的 RAG 系統,包括專門優化的自研的 embedding 和 rerank 模型、微調后的 LLM(大型語言模型)、優化后的推理代碼、向量數據庫,以及一個立即上手可用的前端。所有的算法模型(包括 7B 大模型 + embedding / rerank+OCR)占用顯存不超過 16GB。
網易有道官方表示,QAnything 已在網易有道的多個產品中應用,包括有道翻譯文檔問答、有道速讀及有道內部業務的客服系統等。
附QAnything 開源項目地址和體驗鏈接:
GitHub 頁面:點此查看
體驗頁面:點此訪問
本文鏈接:http://www.www897cc.com/showinfo-119-62668-0.html網易有道知識庫問答引擎 QAnything 宣布開源,推薦 RTX 3090 及以上配置電腦本地部署
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com