日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 元宇宙 > AI

AMD 推出開源項目“GAIA”實現本地大模型高效運行:針對銳龍 AI 300 系列處理器優化,目前僅適用于 Windows

來源: 責編: 時間:2025-03-25 10:05:47 94觀看
導讀 3 月 22 日消息,當地時間周四,AMD 宣布推出專為本地運行大語言模型(LLM)設計的應用GAIA(發音為/?ɡa?.?/)并在 Github 開源,目前僅限于 Windows 平臺。GAIA 是一款生成式 AI 應用,能夠在 Windows PC 上實現本地化

3 月 22 日消息,當地時間周四,AMD 宣布推出專為本地運行大語言模型(LLM)設計的應用GAIA(發音為/?ɡa?.?/)并在 Github 開源,目前僅限于 Windows 平臺。ITy28資訊網——每日最新資訊28at.com

ITy28資訊網——每日最新資訊28at.com

GAIA 是一款生成式 AI 應用,能夠在 Windows PC 上實現本地化私密運行 LLM,并針對銳龍 AI 300 系列處理器進行了優化,標志著 AMD 在邊緣計算領域的又一重要布局。ITy28資訊網——每日最新資訊28at.com

ITy28資訊網——每日最新資訊28at.com

在 NPU 上運行 GAIA 可提高 AI 特定任務的性能。從 Ryzen AI 軟件版本 1.3 開始,混合支持部署同時使用 NPU 和核顯的量化 LLM。ITy28資訊網——每日最新資訊28at.com

ITy28資訊網——每日最新資訊28at.com

其核心組件基于 ONNX TurnkeyML 的 Lemonade SDK 開發,采用檢索增強生成(RAG)技術框架,通過本地向量索引實現 YouTube、GitHub 等外部數據的實時檢索與分析。ITy28資訊網——每日最新資訊28at.com

系統工作流包含 LLM 連接器、LlamaIndex RAG 管道和代理 Web 服務器三大模塊,支持 Llama、Phi 等主流模型。功能模塊包含四大 AI 智能體:ITy28資訊網——每日最新資訊28at.com

Chaty:支持歷史對話的聊天機器人ITy28資訊網——每日最新資訊28at.com

Clip:YouTube 視頻搜索與問答專家ITy28資訊網——每日最新資訊28at.com

Joker:具備幽默風格的笑話生成器ITy28資訊網——每日最新資訊28at.com

Simple Prompt:模型直接交互測試工具ITy28資訊網——每日最新資訊28at.com

ITy28資訊網——每日最新資訊28at.com

硬件方面,AMD 提供普通版與混合版兩種安裝方案。普通安裝包兼容任意 Windows PC(含非 AMD 硬件設備),通過Ollama后端實現跨平臺支持。ITy28資訊網——每日最新資訊28at.com

混合安裝包專為配備銳龍 AI 300 系列處理器的設備進行優化,可智能分配 NPU 與集成顯卡的計算負載。AMD 表示,Ryzen AI 軟件自 1.3 版本起支持量化模型在 NPU 和集成顯卡間的混合部署。ITy28資訊網——每日最新資訊28at.com

隱私與性能優勢方面:ITy28資訊網——每日最新資訊28at.com

本地化處理確保醫療、金融等敏感行業數據不出境ITy28資訊網——每日最新資訊28at.com

響應延遲降低至毫秒級(相較云端方案縮短 40-60%)ITy28資訊網——每日最新資訊28at.com

NPU 專用架構實現每瓦性能提升,支持離線環境運行ITy28資訊網——每日最新資訊28at.com

該項目采用 MIT 開源協議,代碼庫已在 GitHub 開放。AMD 特別鼓勵開發者貢獻自定義代理模塊,目前已有多個行業定制化代理處于開發階段。ITy28資訊網——每日最新資訊28at.com

此外,盡管 GAIA 目前暫不支持 Linux / macOS 系統,但 AMD 官方文檔透露未來可能擴展多平臺支持。ITy28資訊網——每日最新資訊28at.com

附 Github 地址:https://github.com/amd/gaiaITy28資訊網——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-45-11632-0.htmlAMD 推出開源項目“GAIA”實現本地大模型高效運行:針對銳龍 AI 300 系列處理器優化,目前僅適用于 Windows

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 意大利出版全球首份“AI 報紙”,完全由生成式人工智能技術撰寫

下一篇: 嵐圖CEO親身實測,智駕安全五星標準引領行業新高度

標簽:
  • 熱門焦點
Top 主站蜘蛛池模板: 鄯善县| 望奎县| 合肥市| 塔河县| 富平县| 凤庆县| 珠海市| 秀山| 双辽市| 镇沅| 宣武区| 蓝山县| 巩留县| 海淀区| 左贡县| 沙河市| 万全县| 酉阳| 廊坊市| 石城县| 法库县| 双柏县| 上林县| 奇台县| 长顺县| 伊宁县| 红河县| 吐鲁番市| 巴东县| 四会市| 武夷山市| 丰镇市| 逊克县| 封丘县| 获嘉县| 康平县| 土默特右旗| 女性| 台湾省| 磴口县| 茌平县|