《蜘蛛俠》火了，超級英雄就該這么演
燃次元（ID:chaintruth）原創(chuàng)作者 | 陶 淘編輯 | 曹 拿下豆瓣8.8分、IMDB 9.1的高分，6月2日在全球同步上映的《蜘蛛俠：縱橫宇宙》（以下簡稱《蜘蛛俠》），上映不足一周，便在國內(nèi)“
12 月 14 日消息，據(jù)華中科技大學(xué)消息，近日，華中科技大學(xué)軟件學(xué)院白翔教授領(lǐng)銜的 VLRLab 團(tuán)隊發(fā)布了多模態(tài)大模型 ——“Monkey”。該模型號稱能夠?qū)崿F(xiàn)對世界的“觀察”，對圖片進(jìn)行深入的問答交流和精確描述。
注：多模態(tài)大模型是一類可以同時處理和整合多種感知數(shù)據(jù)（例如文本、圖像、音頻等）的 AI 架構(gòu)。
據(jù)介紹，Monkey 模型在 18 個數(shù)據(jù)集上的實驗中表現(xiàn)出色，特別是在圖像描述和視覺問答任務(wù)方面，超越了眾多現(xiàn)有知名的模型如微軟的 LLAVA、谷歌的 PALM-E、阿里的 Mplug-owl 等。此外，Monkey 在文本密集的問答任務(wù)中顯示出“顯著的優(yōu)勢”，甚至在某些樣本上超越了業(yè)界公認(rèn)的領(lǐng)先者 ——OpenAI 的多模態(tài)大模型 GPT-4V。
Monkey 的一個顯著特點是“看圖說話”能力。在詳細(xì)描述任務(wù)中，Monkey 展現(xiàn)了對圖像細(xì)節(jié)的感知能力，能夠察覺到其他多模態(tài)大模型所忽略的內(nèi)容。如對下圖進(jìn)行的文本描述中，Monkey 正確地將其識別為埃菲爾鐵塔的繪畫，并提供了構(gòu)圖和配色方案的詳細(xì)描述。而對左下角的文字，只有 Monkey 和 GPT-4V 能將其準(zhǔn)確地識別為作者名。
Monkey 號稱能夠利用現(xiàn)有的工具構(gòu)建一種多層級的描述生成方法，即通過五個步驟依次對圖片進(jìn)行整體簡述、空間定位、模塊化識別、描述賦分選取和最終總結(jié)，此舉可以充分結(jié)合不同工具的特性，提升描述的準(zhǔn)確性和豐富程度。
“一個個工具就好比不同的零件，合理的排列組合才能使其發(fā)揮最大作用，”白翔教授說，“我們團(tuán)隊從 2003 年開始便從事圖像識別研究，去年我們又從海外引進(jìn)了專攻多模態(tài)大模型的青年人才，Monkey 的最終方案是大家一起反復(fù)討論，嘗試了 10 余種方案后最終確定的?！卑紫杞淌谡f。
Monkey 的另一亮點是能夠處理分辨率最高 1344×896 像素的圖像，這是目前其他多模態(tài)大模型所能處理的最大尺寸的 6 倍，這意味著 Monkey 能對更大尺寸的圖片進(jìn)行更準(zhǔn)確、豐富、細(xì)致的描述甚至推理。
Monkey多模態(tài)大模型代碼目前已在 GitHub 開源，附開源地址：
https://github.com/Yuliang-Liu/Monkey
本文鏈接：http://www.www897cc.com/showinfo-45-2978-0.html華中科技大學(xué)開源多模態(tài)大模型“Monkey”，看圖說話能力號稱超越微軟谷歌
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請聯(lián)系：2376512515@qq.com 津ICP備18001702號
津公網(wǎng)安備 12010102000574號