文心一言排名墊底，卻成為百度業(yè)績增長杠桿
文/侯煜編輯/羅卿知識增強大預(yù)言模式文心一言發(fā)布后，百度公司熱度大幅提升，文心一言到底能為百度的業(yè)績帶來多大的增益成為業(yè)內(nèi)關(guān)注焦點。近日，百度（NASDAQ：BIDU/09888.HK）公布了
5 月 1 日消息，深度求索（DeepSeek）昨日（4 月 30 日）在 AI 開源社區(qū) Hugging Face 上，發(fā)布名為 DeepSeek-Prover-V2-671B 的新模型，隨后在 GitHub 等平臺上公布了論文信息。
援引論文介紹，DeepSeek-Prover-V2 是一款專注于形式化數(shù)學推理的開源大型語言模型，基于 DeepSeek-V3-0324，通過遞歸定理證明管道生成初始數(shù)據(jù)。
Deepseek 推出了 DeepSeek-Prover-V2-671B（結(jié)合 V3 基礎(chǔ)大模型）、DeepSeek-Prover-V2-7B（增強模型）兩個模型，以及 DeepSeek-ProverBench 數(shù)據(jù)集。
DeepSeek-Prover-V2-671B 采用和 DeepSeek V3-0324 相同的架構(gòu)，并非用于常規(guī)對話或者推理，而是用于形式化定理證明、專門增強數(shù)學能力的模型。
DeepSeek 團隊首先引導 DeepSeek-V3 模型將復(fù)雜定理分解為一系列子目標（subgoals），整合非形式與形式化數(shù)學推理，在 Lean 4 平臺上形式化證明步驟。
接著，利用一個較小的 7B 參數(shù)模型處理子目標的證明搜索，減輕計算負擔。最終，結(jié)合完整的逐步證明與 DeepSeek-V3 的思維鏈（chain-of-thought），形成強化學習的“冷啟動”數(shù)據(jù)。
在訓練中，團隊篩選出一批 7B 模型無法直接解決但子目標已被證明的難題。通過整合子目標證明，形成完整的形式化證明，并與 DeepSeek-V3 的推理過程對接，生成合成數(shù)據(jù)。
隨后，模型微調(diào)這些數(shù)據(jù)，并通過強化學習進一步提升能力，以二元反饋（正確或錯誤）作為獎勵機制。最終，DeepSeek-Prover-V2-671B 在神經(jīng)定理證明領(lǐng)域創(chuàng)下新高，在 MiniF2F-test 數(shù)據(jù)集上通過率達 88.9%，在 PutnamBench 數(shù)據(jù)集中解決 658 個問題中的 49 個。
團隊還發(fā)布了 ProverBench 基準數(shù)據(jù)集，包含 325 個形式化數(shù)學問題。其中，15 個問題源自近期 AIME 競賽（AIME 24 和 25），涉及數(shù)論與代數(shù)，代表高中競賽難度。
其余 310 個問題則來自精選教材和教學內(nèi)容，涵蓋線性代數(shù)、微積分、概率等多個領(lǐng)域。這一數(shù)據(jù)集旨在為高中競賽和本科數(shù)學提供全面評估標準，推動模型在多樣化場景下的測試與應(yīng)用。
相關(guān)閱讀：
《DeepSeek-Prover-V2-671B 新模型開源發(fā)布》
本文鏈接：http://www.www897cc.com/showinfo-45-12697-0.htmlDeepSeek-Prover-V2 登場：AI 數(shù)學推理新王者，88.9% 通過率設(shè)新標桿
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
上一篇： 阿里通義千問 2.5-Omni-3B AI 全模態(tài)登場：7B 版 90% 性能，顯存占用減少 53%
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請聯(lián)系：2376512515@qq.com 津ICP備18001702號
津公網(wǎng)安備 12010102000574號