5 月 21 日消息,面壁智能昨晚推出并開源 MiniCPM 系列最新的端側(cè)多模態(tài)模型 MiniCPM-Llama3-V 2.5,支持 30+ 種語言,宣稱可實(shí)現(xiàn):
最強(qiáng)端側(cè)多模態(tài)綜合性能:超越 Gemini Pro 、GPT-4V
OCR 能力 SOTA(注:State-of-the-Art):9 倍像素更清晰,難圖長圖長文本精準(zhǔn)識別
圖像編碼快 150 倍:首次端側(cè)系統(tǒng)級多模態(tài)加速
MiniCPM-Llama3-V 2.5 總參數(shù)量為 8B,多模態(tài)綜合性能超越 GPT-4V-1106、Gemini Pro、Claude 3、Qwen-VL-Max 等商用閉源模型,OCR 能力及指令跟隨能力得到進(jìn)一步提升,可精準(zhǔn)識別難圖、長圖、長文本,并支持超過 30 種語言的多模態(tài)交互。
在 OpenCompass 測試中,MiniCPM-Llama3-V 2.5綜合性能超越多模態(tài)“巨無霸”GPT-4V 和 Gemini Pro;在 OCRBench 上,超越了 GPT-4o、GPT-4V、Claude 3V Opus、Gemini Pro 等標(biāo)桿模型。
此外,在圖像編碼方面,MiniCPM-Llama3-V 2.5 首次整合 NPU 和 CPU 加速框架,并結(jié)合顯存管理、編譯優(yōu)化技術(shù),實(shí)現(xiàn)了 150 倍加速提升。
在語言模型推理方面,經(jīng)過 CPU、編譯優(yōu)化、顯存管理等優(yōu)化方式,MiniCPM-Llama3-V 2.5 在手機(jī)端的語言解碼速度由 Llama 3 的 0.5 token / s 上下提升到 3-4 token / s,并可支持 30 多種語言,包括德語、法語、西班牙語、意大利語、俄語等主流語言,基本覆蓋一帶一路國家。
OCR 技術(shù)方面,MiniCPM-Llama3-V 2.5 實(shí)現(xiàn)高效編碼及無損識別 180 萬高清像素圖片,并且支持任意長寬比、甚至 1:9 極限比例圖像。
本文鏈接:http://www.www897cc.com/showinfo-45-4381-0.html面壁智能推出 MiniCPM-Llama3-V 2.5 開源端側(cè)多模態(tài)模型:8B 參數(shù)、高效部署手機(jī)
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: 谷歌 DeepMind 推出 AI 安全框架 Frontier Safety Framework,可檢測優(yōu)化降低大模型風(fēng)險(xiǎn)性
下一篇: 振興鄉(xiāng)村發(fā)展 助力青少年教育 中國三星連續(xù)十一年蟬聯(lián)企業(yè)社會(huì)責(zé)任榜外企第一