12 月 7 日消息,谷歌今日在推出全新大語言模型Gemini 1.0、云端AI芯片TPU v5p外,還推出了超級電腦架構AI Hypercomputer。
獲悉,AI Hypercomputer 電腦架構號稱“軟硬結合”,整合了為 AI 優化的硬件、開源軟件、主流深度學習框架,并號稱采用靈活的定價模式,便于商業及研究部門使用。
谷歌介紹稱,傳統深度學習硬件主要憑借硬件性能來加強 AI 計算速度,而 AI Hypercomputer 超級電腦架構實現了“軟硬結合”,利用軟件與硬件的協同式設計,提升 AI 訓練效率。
谷歌聲稱,AI Hypercomputer 支持 JAX、TensorFlow 與 PyTorch 等深度學習框架,以及 Multislice Training 與 Multihost Inferencing 等軟件,還深度整合了谷歌Kubernetes Engine(GKE)與Compute Engine兩款基礎架構服務。
同時發現,谷歌強調了 AI Hypercomputer 在定價費率方面的獨特性,谷歌聲稱該 AI 結構提供了更靈活的消費模式,使用了一項名為“Dynamic Workload Scheduler”的平臺計費基準,提供“Flex Start”與“Calendar”。
Flex Start 主要用來微調模型,承載學術實驗及較短的訓練任務,或進行蒸餾、離線推理及批量性的任務,計費標準主要基于 AI 任務所使用的 GPU 與 TPU 量。
而 Calendar 模式則可替 AI 任務預留開始時間,適用于需要精確開始時間及模型訓練持續時間的任務,計費標準主要基于時間長度。
相關閱讀:《訓練 GPT3-175B 模型最高快 180%,谷歌宣布云端 AI 芯片 TPU v5p》
《谷歌高調炸場:全新大語言模型 Gemini 1.0 正式亮相,近乎全面領先于 OpenAI GPT-4》
本文鏈接:http://www.www897cc.com/showinfo-45-2825-0.html谷歌推出超級電腦架構 Hypercomputer:整合主流深度學習框架、采用靈活定價策略
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com