亞馬遜AIGC全家桶來襲，巨頭AI大亂戰都有什么殺手锏
此前，亞馬遜云科技發布多款AIGC產品，其中包括AI大模型服務Amazon Bedrock、人工智能計算實例Amazon EC2 Trn1n和Amazon EC2 Inf2、自研“泰坦”（Titan）AI大模型、軟件
3 月 1 日消息，科技媒體 smartprix 昨日（2 月 28 日）發布博文，報道稱 OpenAI 在介紹 GPT-4.5 模型的視頻中，意外泄露了 GPT-6 訓練可能需要的 GPU 數量，暗示其規模將遠超以往。
注：在 GPT-4.5 模型介紹視頻的 2 分 26 秒處，OpenAI 展示 GPT 4.5 功能的聊天記錄中，出現了“Num GPUs for GPT 6 Training”（訓練 GPT-6 所需的 GPU 數量）的字樣。
雖然視頻中未對此進行任何解釋，但“Num”可能暗示了一個前所未有的數字，該媒體推測高達 10 萬塊 GPU。
此前有消息稱，OpenAI 在訓練 GPT-3 時使用了約 1 萬塊 GPU，而隨著模型的不斷迭代，對計算資源的需求也在不斷增加。
內部代號為“Orion”的 GPT 4.5 在自然度和減少“幻覺”方面取得了重大進展，其參數量可能超過 3 到 4 萬億。據推測，GPT 4.5 的訓練使用了 3 萬到 5 萬塊 NVIDIA H100 GPU，訓練成本約 7.5 億到 15 億美元（備注：當前約 54.69 億到 109.37 億元人民幣）。
截圖中“Num”的含義尚不明確，它可能代表“Numerous”（大量），暗示 GPT-6 的訓練規模遠超以往。當然，這也有可能只是 OpenAI 的一個煙霧彈，就像之前用“Strawberry”（草莓）作為 o1 系列的代號一樣。
本文鏈接：http://www.www897cc.com/showinfo-45-11294-0.htmlOpenAI GPT-6 訓練規模將創歷史新高：預估 10 萬張 H100 GPU，AI 訓練成本達天文數字
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號