1 月 25 日消息，從中國(guó)電信人工智能研究院獲悉，其“復(fù)雜推理大模型”TeleAI-t1-preview 現(xiàn)已正式發(fā)布，即將上線天翼 AI 開(kāi)放平臺(tái)。TeleAI-t1-preview 使用了強(qiáng)化學(xué)習(xí)訓(xùn)練方法，通過(guò)引入探索、反思等思考范式，大幅提升模型在邏輯推理、數(shù)學(xué)推導(dǎo)等復(fù)雜問(wèn)題的準(zhǔn)確性。DZm28資訊網(wǎng)——每日最新資訊28at.com

官方表示，在美國(guó)數(shù)學(xué)競(jìng)賽 AIME 2024 、MATH500 兩項(xiàng)數(shù)學(xué)基準(zhǔn)評(píng)測(cè)中，TeleAI-t1-preview 分別以 60 和 93.8 分的成績(jī)，大幅超越 OpenAI o1-preview、GPT-4o 等標(biāo)桿模型。在研究生級(jí)別問(wèn)答測(cè)試 GPQA Diamond 中，TeleAI-t1-preview 得分超過(guò) GPT-4o，并比肩 Claude 3.5 Sonnet 的性能水準(zhǔn)。DZm28資訊網(wǎng)——每日最新資訊28at.com

DZm28資訊網(wǎng)——每日最新資訊28at.com

評(píng)測(cè)顯示，將《九章算術(shù)》中的一道題目給到 TeleAI-t1-preview 后，其能夠先針對(duì)文言文進(jìn)行理解和簡(jiǎn)化，再轉(zhuǎn)換成現(xiàn)代漢語(yǔ)，隨之給出數(shù)學(xué)推導(dǎo)和答案。DZm28資訊網(wǎng)——每日最新資訊28at.com

DZm28資訊網(wǎng)——每日最新資訊28at.com

DZm28資訊網(wǎng)——每日最新資訊28at.com

據(jù)介紹，在此過(guò)程中，TeleAI-t1-preview 可將形象思維與抽象思維結(jié)合，對(duì)所涉及的場(chǎng)景進(jìn)行具象化思考，輔助理解題目。不僅如此，其還能夠嚴(yán)謹(jǐn)?shù)剡M(jìn)行古今單位換算。DZm28資訊網(wǎng)——每日最新資訊28at.com

TeleAI引入了創(chuàng)新的訓(xùn)練策略，從而保障思考推理過(guò)程準(zhǔn)確有效。DZm28資訊網(wǎng)——每日最新資訊28at.com

數(shù)據(jù)準(zhǔn)備階段：收集、構(gòu)建了一個(gè)以數(shù)學(xué)為核心、多學(xué)科為補(bǔ)充的高質(zhì)量推理數(shù)據(jù)集，確保模型能夠適應(yīng)不同類(lèi)型的推理任務(wù)。DZm28資訊網(wǎng)——每日最新資訊28at.com

Judge Model（評(píng)估模型）：訓(xùn)練了一個(gè) Judge Model 專(zhuān)門(mén)用于分析和評(píng)估模型長(zhǎng)思考鏈路的正確性，為模型的反思和錯(cuò)誤修正提供指導(dǎo)。DZm28資訊網(wǎng)——每日最新資訊28at.com

SFT（監(jiān)督微調(diào)）階段：用 MCTS（蒙特卡洛樹(shù)搜索）構(gòu)造高質(zhì)量長(zhǎng)推理數(shù)據(jù)，結(jié)合每個(gè)步驟的準(zhǔn)確率和解決方案長(zhǎng)度來(lái)選擇最優(yōu)的完整路徑，在保證推理答案準(zhǔn)確性的同時(shí)有效拉長(zhǎng)思考鏈路以獲得更細(xì)粒度的推理過(guò)程。同時(shí)使用 Judge Model 對(duì)推理過(guò)程中正確率較低的路徑進(jìn)行分析，引導(dǎo)模型對(duì)錯(cuò)誤的推理步驟進(jìn)行反思和修正，從而構(gòu)造出高質(zhì)量的思維鏈數(shù)據(jù)進(jìn)行 SFT 訓(xùn)練。DZm28資訊網(wǎng)——每日最新資訊28at.com

強(qiáng)化學(xué)習(xí)階段：額外構(gòu)造了 Rule-based Reward Model（基于規(guī)則的獎(jiǎng)勵(lì)模型），以提供足夠準(zhǔn)確的獎(jiǎng)勵(lì)信號(hào)，通過(guò)在線強(qiáng)化學(xué)習(xí)算法進(jìn)一步提升模型的邏輯推理能力。DZm28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.www897cc.com/showinfo-45-10218-0.html中國(guó)電信發(fā)布“復(fù)雜推理大模型”TeleAI-t1-preview：能解《九章算術(shù)》題目

聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： 印度首富計(jì)劃建設(shè)“世界最大”數(shù)據(jù)中心，預(yù)計(jì)投資 200~300 億美元

下一篇： OpenAI 又將面臨版權(quán)訴訟：印度出版商指控其擅自使用受保護(hù)內(nèi)容訓(xùn)練模型