6月7日消息,新加坡國立大學的研究者最近推出了一種名為Goat的模型,專門用于解決算術問題。該模型的推出被認為是針對當下GPT-4模型在算術能力方面存在的短板,因為GPT-4在邏輯推理能力方面尚待提升,無法正確解答許多人認為相對簡單的計算問題。
研究人員通過一種新的方法,將算術問題根據可學習性進行分類,并利用基本算術原理將不可學習的任務分解為一系列可以學習的任務。這種分解過程將復雜的計算過程拆解成簡單的步驟,讓模型能夠學習答題模式,并將過程泛化為看不見的數據,而非僅僅依靠權重記憶計算。這種新方法的應用使得Goat模型能夠在算術性能方面取得顯著提高,尤其在零樣本學習中展現出近乎完美的精度,特別是在大數加法和減法生成答案的領域。
研究人員在24GB顯存的GPU上進行了Goat模型的訓練,并使用BIG-bench算術子任務對其進行了測試。結果顯示,Goat模型在準確率方面表現出色,超過了業內的Bloom、GPT-NeoX、OPT等模型。尤其是Goat-7B模型在零樣本學習中的準確率甚至一度超過了經過少樣本學習后的PaLM-540模型,在大數計算方面更是遠遠超過了GPT-4。
新加坡國立大學研究者的這一成果對于改進自然語言處理模型在算術問題上的表現具有重要意義。通過將任務分解為可學習的部分,并利用基本算術原理來指導模型學習,Goat模型實現了較高的準確度和性能。未來,這一方法可能會被應用于其他領域的問題求解,為人工智能技術的發展帶來更多可能性。
本文鏈接:http://www.www897cc.com/showinfo-45-1246-0.html算術能力成為GPT-4模型的短板,新加坡研究團隊推出具備高準確度的Goat模型
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com