日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 元宇宙 > AI

Meta 發布 Llama 4 系列 AI 模型,引入“混合專家架構”提升效率

來源: 責編: 時間:2025-04-08 10:04:50 44觀看
導讀 4 月 6 日消息,Meta現已發布旗下最新Llama 4 系列AI 模型,包含 Llama 4 Scout、Llama 4 Maverick 和Llama 4 Behemoth,Meta 透露相應模型都經過了“大量未標注的文本、圖像和視頻數據”的訓練,以使它們具備“廣泛

4 月 6 日消息,Meta現已發布旗下最新Llama 4 系列AI 模型,包含 Llama 4 Scout、Llama 4 Maverick 和Llama 4 Behemoth,Meta 透露相應模型都經過了“大量未標注的文本、圖像和視頻數據”的訓練,以使它們具備“廣泛的視覺理解能力”。kLQ28資訊網——每日最新資訊28at.com

kLQ28資訊網——每日最新資訊28at.com

目前,Meta 已將系列模型中的 Scout 和Maverick 上架到Hugging Face(點此訪問),而 Behemoth 模型則還在訓練中。其中 Scout 可以在單個英偉達H100 GPU 上運行,而Maverick 則需要英偉達H100 DGX AI 平臺或“同等性能的設備”。kLQ28資訊網——每日最新資訊28at.com

Meta 表示,Llama 4 系列模型是該公司旗下首批采用混合專家(MoE)架構的模型,這種架構在訓練和回答用戶查詢時的效率更高,所謂“混合專家架構”基本上是將數據處理任務分解為子任務,然后將它們委派給更小的、專門的“專家”模型。kLQ28資訊網——每日最新資訊28at.com

kLQ28資訊網——每日最新資訊28at.com

例如,Maverick 總共有4000 億個參數,但在128 個“專家”模型中只有170 億個活躍參數(參數數量大致與模型的問題解決能力相對應)。Scout 有170 億個活躍參數、16 個“專家”模型以及總計1090 億個參數。kLQ28資訊網——每日最新資訊28at.com

kLQ28資訊網——每日最新資訊28at.com

不過值得注意的是,Llama 4 系列中沒有一個模型是像OpenAI 的o1 和o3-mini 那樣真正意義上的“推理模型”。作為比較,“推理模型”會對其答案進行事實核查,并且通常能更可靠地回答問題,但因此也比傳統的“非推理”模型花費更長的時間來給出答案。kLQ28資訊網——每日最新資訊28at.com

Meta 內部測試顯示,Maverick 模型最適合用于“通用AI 助手和聊天”等應用場景,該模型在創意寫作、代碼生成、翻譯、推理、長文本上下文總結和圖像基準測試中表現超過了OpenAI 的GPT-4o 和谷歌的Gemini 2.0 等模型。然而 Maverick 與谷歌的 Gemini 2.5 Pro、Anthropic 的Claude 3.7 Sonnet 和OpenAI 的GPT-4.5 等功能更強大的最新模型相比仍有一定進步空間。kLQ28資訊網——每日最新資訊28at.com

kLQ28資訊網——每日最新資訊28at.com

而 Scout 的優勢則是總結文檔、基于大型代碼庫進行推理。該模型支持 1000 萬個詞元(“詞元”代表原始文本的片段,例如單詞“fantastic”可拆分為“fan”、“tas”和“tic”),因此一次可以處理“多達數百萬字的文本”。kLQ28資訊網——每日最新資訊28at.com

注意到,Meta 還進一步預告了其 Behemoth 模型,據該公司稱,Behemoth 有2880 億個活躍參數、16 個“專家”模型,總參數數量接近2 萬億個。Meta 的內部基準測試顯示,在一些衡量解決數學問題等科學、技術、工程和數學(STEM)技能的評估中,Behemoth 的表現優于GPT-4.5、Claude 3.7 Sonnet 和Gemini 2.0 Pro,但不如Gemini 2.5 Pro。kLQ28資訊網——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-45-12016-0.htmlMeta 發布 Llama 4 系列 AI 模型,引入“混合專家架構”提升效率

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: OpenAI 遭實錘:研究稱其 AI 模型“記住”了受版權保護的內容

下一篇: 消息稱谷歌 Gemini AI 部門高層調整:掌門人 Sissie Hsiao 下臺、原 Google Labs 主管上位

標簽:
  • 熱門焦點
  • 數字人的新革命,BAT的“沖高”戰場

    來源:劉曠ChatGPT橫空出世,讓人們看到了數字人的另一種可能,將ChatGPT與虛擬數字人融合,研發出更加智能化、擬人化的虛擬數字人成為數字人廠商的新命題、新方向。2月份,嶺南股份
  • 冰墩墩NFT遇冷,價格跌80%,日成交僅3筆。

    “兩日上漲千倍”并不存在,且冰墩墩NFT的市場熱度遠不及社交媒體所稱的那樣高。2月11日,獲得國際奧委會授權的2022冬奧會吉祥物冰墩墩相關NFT產品在nWayPlay上線
  • 元宇宙社交啫喱、希壤爆款迭出,騰訊慌了嗎?

    文 | 陳橋輝沒想到騰訊超級QQ秀的20周年歸來首秀,被一款名不見經傳的產品搶了風頭。1月15日,一款名為“啫喱”的社交App迅速在各個互聯網的社交圈內火爆起來,引起
  • 借VR產業東風,江西搶灘布局“元宇宙”

    自2016年起就在VR上傾注了大量精力的江西省,迅速搭上了“元宇宙”。VR、AR等技術是通往元宇宙的關鍵接口,使人們可以在數字空間和物理空間自由穿梭。自2016年起
  • 元宇宙存在的意義和價值

    科技公司目前都在猶豫,看誰能在元宇宙上押下更大的賭注。然而,除了巨額的資金投入,到底要怎樣才能獲勝在很大程度上還沒有得到證實。它是否僅僅是對當前數字景觀
  • MR——元宇宙平臺的下一代入口

    作為“元宇宙”的領頭羊,Meta的一舉一動都受到業內的高度關注。華爾街見聞提及,2月17日周四,Facebook母公司Meta在透露,其混合現實技術(MR)將在幾年后實現,讓人們對元
  • Steam 禁止NFT和加密貨幣原因曝光

    近日,Valve(V社)總裁Gabe Newell接受PC Gamer采訪時解釋了該平臺禁止NFT和加密貨幣的原因。早在2021年10月18日,PC Gamer就報道Steam推出的新規:使用區塊鏈或允許交
  • 知名藝術家打造去中心化“好萊塢”:一部電影一個DAO

    根據市場追蹤網站 DappRadar 的數據,隨著 NFT 的“出圈”與加密貨幣的普及,NFT 市場在 2021 年的銷售額達到約 250 億美元,而 2020 年僅為 9490 萬美元,同比增超 2
  • Staking 收益翻倍?

    以太坊質押可能很快就會有兩倍的利潤。Coinbase 估計,在 1 月份以太坊網絡合并后,持有 ETH 的回報將翻倍。增長預期假設來自加密貨幣交易所 Coinbase 的估計是準
Top 主站蜘蛛池模板: 井冈山市| 舟山市| 德州市| 饶阳县| 金门县| 东台市| 常州市| 长岭县| 清镇市| 嘉祥县| 柞水县| 乐平市| 富宁县| 诏安县| 杭州市| 巧家县| 朝阳县| 桐柏县| 定结县| 多伦县| 中宁县| 科尔| 高碑店市| 大同县| 博野县| 安平县| 建昌县| 嘉黎县| 扶风县| 漳平市| 闽侯县| 阳曲县| 紫金县| 新郑市| 双鸭山市| 上高县| 萨迦县| 无极县| 县级市| 浙江省| 濮阳市|