10 月 12 日消息,科技媒體 The Decoder 昨日(10 月 11 日)發(fā)布博文,報道稱 OpenAI 公司推出 MLE-bench 新基準(zhǔn),旨在評估 AI 智能體在開發(fā)機器學(xué)習(xí)解決方案方面的能力。
該基準(zhǔn)包括 75 個 Kaggle 競賽,旨在衡量自主 AI 系統(tǒng)在機器學(xué)習(xí)工程中的進展。這些競賽涵蓋了多個領(lǐng)域,包括自然語言處理、計算機視覺和信號處理等等。
注:Kaggle 是一個非常受歡迎的平臺,專注于數(shù)據(jù)科學(xué)和機器學(xué)習(xí)的在線比賽。Kaggle 提供各種類型的比賽,包括數(shù)據(jù)預(yù)測、圖像分類、自然語言處理等,適合不同技能水平的參與者。
在 Kaggle 的進階系統(tǒng)中,“Novice”(新手)、“Contributor”(貢獻者)、“Expert”(專家)、“Master”(大師)和 "Grandmaster"(特級大師)是不同的績效層級,用于衡量和識別數(shù)據(jù)科學(xué)家在 Kaggle 平臺上的技能水平和成就。
許多任務(wù)具有現(xiàn)實世界的應(yīng)用,例如預(yù)測 COVID-19 mRNA 疫苗降解或解碼古代卷軸等。
MLE-bench 專注于兩個關(guān)鍵領(lǐng)域:
選擇具有挑戰(zhàn)性的任務(wù):這些任務(wù)代表了當(dāng)前機器學(xué)習(xí)的發(fā)展水平。
比較 AI 與人類的表現(xiàn):通過對比,評估 AI 在特定任務(wù)中的能力。
OpenAI 在 MLE-bench 上測試了多個 AI 模型和智能體框架,使用 AIDE 框架的 o1-preview 模型表現(xiàn)最佳,在 16.9% 的比賽中至少獲得了一枚銅牌,該結(jié)果超越了 Anthropic 的 Claude 3.5 Sonnet。
獲得 5金即可評上 "Grandmaster" 特級大師,而 o1-preview 模型在MLE-bench測試中獲得了 7枚金牌。
OpenAI 承認 MLE-bench 也有局限性,并未涵蓋 AI 研究與開發(fā)的所有方面,主要集中在具有明確問題和簡單評估指標(biāo)的任務(wù)上。
MLE-bench 基準(zhǔn)現(xiàn)已在 GitHub 上發(fā)布,OpenAI 希望通過這一工具,推動 AI 在機器學(xué)習(xí)領(lǐng)域的進一步發(fā)展。
本文鏈接:http://www.www897cc.com/showinfo-45-9068-0.html首個 AI Kaggle 特級大師誕生,OpenAI 的 o1-preview 奪 7 金封王
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com