meta FAIR實(shí)驗(yàn)室近日宣布推出全球首個(gè)系統(tǒng)性引入世界模型概念的代碼生成語(yǔ)言模型——CWM(Code World Model)。這款參數(shù)量達(dá)320億、支持131k tokens長(zhǎng)上下文的密集語(yǔ)言模型,在代碼生成與推理領(lǐng)域?qū)崿F(xiàn)了關(guān)鍵突破,標(biāo)志著代碼大模型從靜態(tài)文本預(yù)測(cè)向動(dòng)態(tài)執(zhí)行理解的范式轉(zhuǎn)變。
與傳統(tǒng)代碼生成模型不同,CWM首次將"代碼世界建模"理念融入訓(xùn)練框架。通過(guò)追蹤代碼執(zhí)行過(guò)程中變量狀態(tài)的動(dòng)態(tài)演變,該模型能夠模擬程序運(yùn)行軌跡,理解函數(shù)調(diào)用的副作用,甚至預(yù)測(cè)潛在執(zhí)行錯(cuò)誤。研究團(tuán)隊(duì)形象地將其類比為"神經(jīng)調(diào)試器",可在標(biāo)記空間中實(shí)時(shí)追蹤程序狀態(tài)變化,如同為代碼運(yùn)行配備可視化調(diào)試工具。
在核心能力構(gòu)建上,CWM實(shí)現(xiàn)了三大技術(shù)升級(jí):其一,動(dòng)態(tài)執(zhí)行模擬能力可逐行解析代碼對(duì)程序狀態(tài)的影響,支持循環(huán)展開(kāi)、邊界條件測(cè)試等復(fù)雜場(chǎng)景;其二,自我修復(fù)機(jī)制能自動(dòng)生成測(cè)試用例,通過(guò)多路徑嘗試修復(fù)代碼缺陷,形成"編寫(xiě)-測(cè)試-修正"的完整閉環(huán);其三,推理規(guī)劃模塊可針對(duì)復(fù)雜問(wèn)題拆解步驟、規(guī)劃函數(shù)結(jié)構(gòu),并通過(guò)執(zhí)行預(yù)測(cè)驗(yàn)證解決方案,展現(xiàn)出多輪邏輯推導(dǎo)能力。
基準(zhǔn)測(cè)試數(shù)據(jù)顯示,CWM在多個(gè)權(quán)威評(píng)測(cè)中表現(xiàn)優(yōu)異:SWE-bench Verified得分65.8%,超越所有同規(guī)模開(kāi)源模型,接近GPT-4水平;LiveCodeBench v5編程任務(wù)準(zhǔn)確率達(dá)68.6%;數(shù)學(xué)推理方面,AIME 2024模擬題得分76.0%,Math-500測(cè)試達(dá)96.6%;終端操作任務(wù)Terminal-Bench得分26.3%,優(yōu)于Gemini 2.5 Pro。這些成績(jī)驗(yàn)證了動(dòng)態(tài)執(zhí)行建模對(duì)提升代碼生成可靠性的顯著價(jià)值。
技術(shù)架構(gòu)上,模型采用64層decoder-only Transformer結(jié)構(gòu),局部與全局注意力機(jī)制交替設(shè)計(jì),在保持長(zhǎng)上下文處理能力的同時(shí)優(yōu)化計(jì)算效率。訓(xùn)練過(guò)程運(yùn)用FlashAttention-3加速、FSDP+TP并行策略及fp8低精度計(jì)算,嚴(yán)格遵循前沿AI安全框架,確保模型不會(huì)對(duì)高敏感領(lǐng)域構(gòu)成風(fēng)險(xiǎn)。
研究團(tuán)隊(duì)同步開(kāi)源了預(yù)訓(xùn)練模型、監(jiān)督微調(diào)版本及完整訓(xùn)練權(quán)重,提供三個(gè)檢查點(diǎn)供學(xué)術(shù)界使用。但特別指出,該模型專為代碼理解與復(fù)雜推理研究設(shè)計(jì),未進(jìn)行RLHF對(duì)齊優(yōu)化,因此不適合對(duì)話場(chǎng)景或商業(yè)應(yīng)用,僅面向非商業(yè)研究用途。
針對(duì)外界關(guān)于"語(yǔ)言模型路線"的質(zhì)疑,meta首席AI科學(xué)家LeCun回應(yīng)稱,CWM的創(chuàng)新聚焦于編程領(lǐng)域的動(dòng)態(tài)執(zhí)行理解,與通用人工智能發(fā)展路徑形成互補(bǔ)。研究核心貢獻(xiàn)者Gabriel Synnaeve強(qiáng)調(diào),團(tuán)隊(duì)通過(guò)跨學(xué)科協(xié)作驗(yàn)證了世界建模對(duì)提升代碼生成可靠性的有效性,這項(xiàng)突破為構(gòu)建自動(dòng)化編程助手奠定了技術(shù)基礎(chǔ)。
當(dāng)前版本的世界建模數(shù)據(jù)主要覆蓋Python語(yǔ)言,研究團(tuán)隊(duì)正探索多語(yǔ)言擴(kuò)展方案。通過(guò)開(kāi)源模型代碼與訓(xùn)練細(xì)節(jié),meta期望推動(dòng)代碼生成領(lǐng)域向可解釋、可調(diào)試、可規(guī)劃的方向發(fā)展,同時(shí)引發(fā)學(xué)術(shù)界對(duì)"模型世界理解能力邊界"的深入探討。
更多>同類資訊大模型成多智能體“中樞”,AI云作“超級(jí)引擎”:阿里繪就智能新藍(lán)圖09-25中國(guó)AI發(fā)展:以數(shù)據(jù)模型算力為基,促全球普惠與文明多樣共榮09-25MiniMax陷版權(quán)漩渦:海外狂飆遇阻,上市之路能否沖破重重陰霾?09-25OpenAI豪擲萬(wàn)億進(jìn)軍AI基建,啟動(dòng)超大規(guī)模算力擴(kuò)張,布局下一代大模型09-251688云棲大會(huì)秀AI實(shí)力,跨境AI「遨蝦」內(nèi)測(cè),AI版App功能再升級(jí)09-25研華攜手國(guó)訊芯微推出Thor平臺(tái)控制器,推動(dòng)機(jī)器人智能化新突破此次合作不僅是硬件與軟件層面的深度協(xié)同,更標(biāo)志著工業(yè)控制領(lǐng)域向“感知—決策—執(zhí)行”一體化自主智能邁出了堅(jiān)實(shí)一步: 賦能產(chǎn)業(yè)升級(jí),解鎖應(yīng)用新場(chǎng)景:雙方合作的產(chǎn)品將極大推動(dòng)AI從“云端”走向“邊緣”,深入復(fù)雜現(xiàn)…09-25釘釘CTO朱鴻:AI時(shí)代人輔助AI,釘釘助力企業(yè)打造專屬模型開(kāi)啟共生新篇面向千行百業(yè),釘釘希望能夠成為行業(yè)模型和企業(yè)智能體工廠,讓每一家企業(yè)都能低成本、高效率地構(gòu)建和應(yīng)用自己的專屬大模型。 “我們首創(chuàng)了‘AI按效果付費(fèi)’模式——先用后付,效果說(shuō)話,讓企業(yè)敢用、能用、用得起AI,也…09-25?9月24日阿里巴巴重大發(fā)布:與英偉達(dá)合作、推新品,吳泳銘暢談AI未來(lái)?據(jù)了解,Qwen3-Coder是通義千問(wèn)的AI編程大模型,擁有多個(gè)尺寸,編程能力登頂全球開(kāi)源模型陣營(yíng)。此次發(fā)布的Qwen3-Max作為壓軸出場(chǎng)的模型,大幅提升了編碼和智能體能力,在多項(xiàng)權(quán)威基準(zhǔn)測(cè)試中穩(wěn)居全球頂…09-25阿里巴巴9月24日動(dòng)作頻出:宣布合作、推新品,吳泳銘暢談AI未來(lái)愿景據(jù)了解,Qwen3-Coder是通義千問(wèn)的AI編程大模型,擁有多個(gè)尺寸,編程能力登頂全球開(kāi)源模型陣營(yíng)。此次發(fā)布的Qwen3-Max作為壓軸出場(chǎng)的模型,大幅提升了編碼和智能體能力,在多項(xiàng)權(quán)威基準(zhǔn)測(cè)試中穩(wěn)居全球頂…09-25吳泳銘云棲大會(huì)演講定調(diào)AI藍(lán)圖,阿里股價(jià)飆升2200億港元09-252025云棲大會(huì):阿里云發(fā)布七款大模型,吳泳銘勾勒ASI終極愿景09-251688云棲大會(huì)秀AI實(shí)力,“遨蝦”內(nèi)測(cè)及App迭代助力B2B生意智能化09-25吳泳銘云棲大會(huì)演講,勾勒AI藍(lán)圖,阿里市值兩小時(shí)增2200億09-25金星智控?cái)y手銅陵有色金冠銅業(yè) 智能冶煉方案入選安徽未來(lái)產(chǎn)業(yè)優(yōu)秀案例09-252025云棲大會(huì):阿里吳泳銘勾勒ASI藍(lán)圖,3800億投建AI基礎(chǔ)設(shè)施共赴未來(lái)阿里云作為“全棧人工智能服務(wù)商”,將通過(guò)兩大核心路徑實(shí)施AI戰(zhàn)略:第一,通義千問(wèn)堅(jiān)定開(kāi)源開(kāi)放路線,致力于打造“AI時(shí)代的Android”;其二,構(gòu)建作為“下一代計(jì)算機(jī)”的超級(jí)AI云,為全球提供智能算力網(wǎng)絡(luò)。程…09-25點(diǎn)擊查看更多 +全站最新
雷軍談小米造車與造芯:同時(shí)決策如供倆孩子上大學(xué),壓力如山感慨多
雷軍坦言造車與造芯雙線并進(jìn),押上小米十年積蓄,直言“雙線作戰(zhàn)”壓力如山
AI浪潮下TCL電子的破局之道:以技術(shù)重構(gòu)業(yè)務(wù),用創(chuàng)新拓寬邊界
福特中國(guó)整合江鈴與長(zhǎng)安渠道:資源重組下能否開(kāi)啟發(fā)展新篇?
阿維塔戰(zhàn)略2.0啟航:“國(guó)家隊(duì)”助力 邁向全球“新豪華”新征程
葉菲慶賀米其林沈陽(yáng)工廠三十載,共繪“未來(lái)工廠”可持續(xù)新藍(lán)圖熱門(mén)內(nèi)容
第22屆東博會(huì)AI元素亮眼:數(shù)字智能體引路 機(jī)器人炫技展風(fēng)采
AI云競(jìng)爭(zhēng)下半場(chǎng):華為以超節(jié)點(diǎn)、企業(yè)Agent等破局,誰(shuí)能領(lǐng)跑產(chǎn)業(yè)?
2025網(wǎng)安周:每日互動(dòng)劉宇談AI時(shí)代,知識(shí)安全成關(guān)鍵,共筑數(shù)字新未來(lái)
中國(guó)大模型DeepSeek首登Nature封面,R1訓(xùn)練成本僅約208萬(wàn)引關(guān)注
華為全聯(lián)接大會(huì)2025啟幕,發(fā)布全球最強(qiáng)算力超節(jié)點(diǎn)與集群
有鹿機(jī)器人+連合直租:以智能租賃模式,開(kāi)啟高端場(chǎng)景清潔新未來(lái)
本文鏈接:http://www.www897cc.com/showinfo-45-28076-0.htmlMeta FAIR推出首個(gè)代碼世界模型CWM:模擬執(zhí)行、自我調(diào)試,代碼能力再進(jìn)階
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: 英偉達(dá)3.6萬(wàn)員工撬動(dòng)AI資本潮,或成2026年全球宏觀經(jīng)濟(jì)關(guān)鍵變量