人間誠實周鴻祎：360 All in 大模型的六個解讀
主筆 / 村口有牛文章架構師 / 毛自聰出品 / 巨頭財經5月至今，人間躁動，各路大模型你方唱罷我登場，VC圈互聯網圈媒體圈已近癲狂。誰也沒想到，今日，360再度刷屏，老牌互聯網巨頭展現
11 月 15 日消息，微軟近日推出了名為“Everything of Thought”（XOT）的方法，靈感來自谷歌 DeepMind 的 AlphaZero，利用緊湊的神經網絡，來增強 AI 模型推理能力。
微軟和佐治亞理工學院、華東師范大學合作開發了該算法，整合了強化學習（reinforcement learning）和蒙特卡洛樹搜索 （MCTS） 能力，在復雜決策環境中，進一步提高解決問題的有效性。
注：微軟研究團隊表示 XOT 方法可以讓語言模型擴展到不熟悉的問題上，在 Game of 24、8-Puzzle 和 Pocket Cube 嚴苛測試中提升明顯。結果表明，XOT 明顯優于其他方法，甚至解決了其他方法失敗的問題。但是，XOT 并沒有達到 100% 的可靠性。
XOT 框架包括以下關鍵步驟:
預訓練階段：MCTS 模塊在特定任務上進行預訓練，以學習有關有效思維搜索的領域知識。輕量級策略和價值網絡指導搜索。思想搜索: 在推理過程中，預訓練的 MCTS 模塊使用策略 / 價值網絡來有效地探索和生成 LLM 的思想軌跡。
思想修正：LLM 審查 MCTS 的思想并識別任何錯誤。修正的想法是通過額外的 MCTS 模擬產生的。
LLM 推理: 將修改后的想法提供給 LLM 解決問題的最終提示。
在此附上論文 [PDF] 地址，感興趣的用戶可以深入閱讀。
本文鏈接：http://www.www897cc.com/showinfo-45-2566-0.html微軟推出 XOT 方法，提升語言模型推理能力
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號