日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 元宇宙 > AI

面壁智能MiniCPM4:端側模型極限提速,8B性能超12B競品引關注

來源: 責編: 時間:2025-06-09 09:39:16 54觀看
導讀在近期舉辦的2025智源大會上,面壁智能這家北京的大模型創(chuàng)新企業(yè),推出了其開源模型MiniCPM 4.0的兩個新版本,分別為0.5B和8B,內(nèi)部代號“前進四”。這一發(fā)布引起了業(yè)內(nèi)廣泛關注。據(jù)悉,MiniCPM4-0.5B的訓練成本僅為Qwen3-0.6B

在近期舉辦的2025智源大會上,面壁智能這家北京的大模型創(chuàng)新企業(yè),推出了其開源模型MiniCPM 4.0的兩個新版本,分別為0.5B和8B,內(nèi)部代號“前進四”。這一發(fā)布引起了業(yè)內(nèi)廣泛關注。GIv28資訊網(wǎng)——每日最新資訊28at.com

據(jù)悉,MiniCPM4-0.5B的訓練成本僅為Qwen3-0.6B的2.7%,卻以一半的參數(shù)量實現(xiàn)了性能翻倍,綜合得分平均分高達52.06分,遠超同類模型。更為出色的是,面壁智能還推出了一個0.5B的三級量化版本,平均得分更是達到了56分,這一成績實屬不易。GIv28資訊網(wǎng)——每日最新資訊28at.com

而MiniCPM4-8B的表現(xiàn)同樣令人矚目。其訓練開銷僅為22%,并加入了長上下文稀疏化版本,使得同等參數(shù)下性能更強。在同類端側模型排行榜中,MiniCPM4-8B的綜合得分甚至超越了Gemma3-12B,與Qwen3-8B比肩,位居榜首。GIv28資訊網(wǎng)——每日最新資訊28at.com

面壁智能CEO李大海在會上表示,MiniCPM4模型的最大特點就是速度快。在處理極端場景下的140K上下文時,需要極大的端側內(nèi)存。而在Jetson Orin AGX(64G)或RTX 4090(24G)硬件上運行128K長文本時,像Qwen3-8B這樣未進行上下文稀疏化的模型,顯存往往不夠用,需要借助CPU內(nèi)存,這會導致速度急劇下降。而MiniCPM4-8B則通過快速稀疏化工作,將占用的低長文本緩存降至1/4,在常規(guī)場景中至少可以取得3-5倍的速度優(yōu)勢。GIv28資訊網(wǎng)——每日最新資訊28at.com

GIv28資訊網(wǎng)——每日最新資訊28at.com

李大海進一步透露,在顯存受限的極限場景中,MiniCPM4的測試數(shù)據(jù)甚至可以達到220倍的速度提升。面壁智能的MiniCPM4-MCP模型在端側利用MCP協(xié)議,支持15個主流應用,綜合評測表現(xiàn)得分頗高。而另一個MiniCPM4-Survey端側版則可在AI PC上構建深度研究服務,成為離線可用的隨身研究報告工具,有助于保護本地隱私數(shù)據(jù)。GIv28資訊網(wǎng)——每日最新資訊28at.com

GIv28資訊網(wǎng)——每日最新資訊28at.com

值得注意的是,面壁智能與英特爾緊密合作,首次在端側解鎖了128K長上下文窗口。在英特爾平臺上,基于InfLLM 2.0稀疏注意力結構,實現(xiàn)了3.8倍加速的推理優(yōu)化效果。同時,MiniCPM4已經(jīng)可以在華為昇騰、聯(lián)發(fā)科、高通等主流芯片上流暢運行,并支持vLLM、AutoGPT等推理框架,歐拉版也正在積極適配中。GIv28資訊網(wǎng)——每日最新資訊28at.com

那么,面壁智能是如何實現(xiàn)MiniCPM4又快又好的表現(xiàn)的呢?李大海分享了背后的技術細節(jié)。他提到,這是行業(yè)首個全開源系統(tǒng)級上下級稀疏化高效創(chuàng)新。MiniCPM4采用了InfLLM 2.0混合稀疏注意力結構,通過分塊分區(qū)域處理文本,只對最具相關性的重點區(qū)域進行注意力計算,從而大大提高了效率。同時,面壁智能還創(chuàng)新地采用了高效的自動雙頻換擋技術,長文本用稀疏方案,短文本用稠密方案,進一步提升了性能。GIv28資訊網(wǎng)——每日最新資訊28at.com

GIv28資訊網(wǎng)——每日最新資訊28at.com

在推理方面,面壁智能自研了全套端側高性能推理框架,包括實現(xiàn)稀疏、投機和量化的高效結合的CPM.cu,極致低位寬量化的BitCPM,以及面向多平臺端側芯片極致優(yōu)化的Arkinfer。這些創(chuàng)新使得MiniCPM4在端側的表現(xiàn)更加出色。GIv28資訊網(wǎng)——每日最新資訊28at.com

舉報 0收藏 0打賞 0評論 0
 
 
更多>同類資訊
點擊查看更多 +
全站最新
雷軍親證:購買小米YU7,一視同仁需自費
雷軍親證:購買小米YU7,一視同仁需自費
極氪001榮膺中國外觀設計金獎,展現(xiàn)中國高端豪華新能源設計魅力
極氪001榮膺中國外觀設計金獎,展現(xiàn)中國高端豪華新能源設計魅力
蘋果iPhone 17配置大曝光:120Hz屏幕、A18芯片等亮點搶先看
蘋果iPhone 17配置大曝光:120Hz屏幕、A18芯片等亮點搶先看
全球首位QQ256級用戶誕生,解鎖“時光企鵝”等級圖標
全球首位QQ256級用戶誕生,解鎖“時光企鵝”等級圖標
東風本田銷量斷崖式下滑,新能源戰(zhàn)略失誤成主因?
東風本田銷量斷崖式下滑,新能源戰(zhàn)略失誤成主因?
輕型動力新紀元!全國首分鐘級超充產(chǎn)業(yè)聯(lián)盟廬江啟航
輕型動力新紀元!全國首分鐘級超充產(chǎn)業(yè)聯(lián)盟廬江啟航
熱門內(nèi)容
  • 榮耀“鯤鵬”照片事件真相大白,造謠者道歉遭刑拘
  • 騰訊阿里AI to C戰(zhàn)場“雙吳”爭霸,誰將問鼎AI搜索之巔?
  • 英偉達全球總部或?qū)⒙鋺糁袊_灣,黃仁勛下周宣布這一重大決定?
  • 教育部新規(guī):學生禁直接復制AI作業(yè),強化獨立思考與批判性思維
  • 聯(lián)發(fā)科天璣9400e發(fā)布:天璣9300+升級版,藍牙升級至6.0
  • TIOBE 5月編程語言榜:Python強勢領跑,占比創(chuàng)歷史新高
  • 中國知網(wǎng)CNKI AI:重塑知識服務新生態(tài),四大核心力引領未來
  • 中國GPU市場競爭激烈,英偉達獨占7成,華為昇騰緊追其后!
  • 華為Mate 40系列(5G)已支持5G-A網(wǎng)絡,性能再升級!
  • 華為nova 14系列震撼登場!鴻蒙5直板機領銜,nova 14僅售2699元起
  • 教育部新規(guī):中小學分階段用AI,嚴禁復制答案強化獨立思考
  • 華為nova14 Ultra震撼登場!鴻蒙5系統(tǒng)加持,售價4199元起
  • vivo領跑!2025第18周中國手機份額華為小米緊追其后
  • DeepSeek新論文揭秘:梁文鋒領銜探索AI訓練推理成本效益之道
  • 華為昇騰超節(jié)點技術突破:384卡高速互聯(lián),引領AI模型訓練新紀元
本欄最新
AI助力高考志愿填報,夸克百度訊飛誰更懂你的心?
AI助力高考志愿填報,夸克百度訊飛誰更懂你的心?
蘋果iPadOS 26大改版:新界面、手寫筆升級,AI與應用全面進化!
蘋果iPadOS 26大改版:新界面、手寫筆升級,AI與應用全面進化!
喜臨門榮獲中國專利優(yōu)秀獎,智能睡眠技術創(chuàng)新實力獲國家級認可
喜臨門榮獲中國專利優(yōu)秀獎,智能睡眠技術創(chuàng)新實力獲國家級認可
小碼王與黑龍江工程學院強強聯(lián)手,打造信息學創(chuàng)新人才培育新高地
小碼王與黑龍江工程學院強強聯(lián)手,打造信息學創(chuàng)新人才培育新高地
AI爭霸賽,谷歌何以從領跑者變追趕者?
AI爭霸賽,谷歌何以從領跑者變追趕者?
AI高考作文大比拼:誰才是真正的“狀元”之才?
AI高考作文大比拼:誰才是真正的“狀元”之才?

本文鏈接:http://www.www897cc.com/showinfo-45-13565-0.html面壁智能MiniCPM4:端側模型極限提速,8B性能超12B競品引關注

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 大模型高考作文比拼,騰訊墊底百度ChatGPT并列第一,幻覺問題成關鍵

下一篇: AI助力高考志愿填報,夸克百度訊飛誰更懂你的心?

標簽:
  • 熱門焦點
  • 清華、北大等86所高校布局元宇宙,是風口還是噱頭?

    作者:徐賜豪來源:區(qū)塊鏈日報據(jù)全國高校人工智能與大數(shù)據(jù)創(chuàng)新聯(lián)盟元宇宙專委會不完全統(tǒng)計,截至2023年7月,全國共有86所高校戰(zhàn)略布局元宇宙領域,其中本科院校73所,高職專科院校13所
  • 錯過了BRC20還有eths,eth銘文協(xié)議

    來源:三頭鳥NFT大家好,我是鳥哥,了解鳥哥的人都知道鳥哥擅擼空投,說實話擼毛雖然回報大但周期還是有點長的,所以除了擼毛我們自己也在研究早期項目,打新,比如BRC20協(xié)議ordi當時就有
  • 元宇宙里掀起回憶殺?這波虛擬懷舊營銷主打一個極限反差

    來源:首席品牌官從被稱為“元宇宙元年”的2021年開始,幾乎所有品牌都在迫不及待地“入駐”元宇宙。而一提及品牌們的元宇宙玩法,相信多數(shù)人腦海里首先浮現(xiàn)
  • 元宇宙里賣酸奶,好炸裂的操作!

    作者 | 李東陽 來源 | 首席營銷官有沒有發(fā)現(xiàn),當下的熱搜出現(xiàn)一個有意思的現(xiàn)象,那就是“情懷”不知不覺成為了主流,爺青回話題討論性非常高。前有名偵探柯南和優(yōu)衣庫
  • 藍標虧錢、Meta裁員:天下秀還值得砸錢元宇宙嗎?

    日前,天下秀數(shù)字科技集團正式公布了2022年報及2023年一季報。報告顯示,2022年天下秀實現(xiàn)營收41.29億元,同比下滑8.48%;歸母凈利潤1.8億元,同比下滑49.2%,幾乎出現(xiàn)了盈利腰斬的態(tài)勢
  • 完美世界被元宇宙“拒之門外”

    春節(jié)期間,游戲是消磨時間最好的方式,完美世界的《幻塔》作為選擇的首要目標,倒不是因為它的吸引力有多大,純粹是廣大網(wǎng)友的吐槽。繼《原神》之后,進擊元宇宙的游戲
  • 重溫 1602 年:DAO 是新的企業(yè)范式嗎?

    作者:Andrew Singer“ 將你的選票委托給行業(yè)有能力的專家,將使所有者在這些公司的管理中擁有更強大、更清晰的話語權 。”1602 年,荷蘭東印度公司成立,許多人認為
  • 紐約證券交易所母公司ICE收購tZero股份以探索代幣化股票

    2 月 22 日,紐約證券交易所 (NYSE) 的母公司洲際交易所 (ICE) 宣布,它將持有私人數(shù)字證券市場 tZERO 的所有權。根據(jù)公告,ICE 將成為 tZero 的“重要”少數(shù)股東,但
  • 參加元宇宙里的招聘會是什么樣一種體驗?

    求職者可以在活動中走動,就像他們在現(xiàn)實生活中一樣。長話短說看亮點:招聘公司Hirect為Y-combinator支持的初創(chuàng)公司舉辦了一場元宇宙招聘會。這里有一個大廳、一

最新推薦

猜你喜歡

熱門推薦

相關資訊

Top 主站蜘蛛池模板: 湾仔区| 巴林右旗| 通辽市| 丹阳市| 长岛县| 云安县| 十堰市| 陇南市| 洛川县| 观塘区| 浦城县| 晋中市| 上林县| 兴和县| 天津市| 福州市| 浠水县| 新民市| 吴江市| 张北县| 丰宁| 错那县| 海城市| 巩义市| 丹凤县| 长武县| 天峻县| 佳木斯市| 绩溪县| 玉龙| 观塘区| 赫章县| 新野县| 山西省| 南开区| 洮南市| 成都市| 岑溪市| 江城| 吉安市| 得荣县|