日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 科技  > 數碼

摩爾線程國產GPU重大里程碑!千卡集群完成30億參數大模型實訓

來源: 責編: 時間:2024-05-27 17:18:58 209觀看
導讀 快科技5月27日消息,摩爾線程、無問芯穹聯合宣布,雙方已經正式完成MT-infini-3B 3B(30億參數)規模大模型的實訓,基于摩爾線程國產全功能GPU MTT S4000組成的千卡集群,以及無問芯穹的AIStudio PaaS平臺。本次實訓

快科技5月27日消息,摩爾線程、無問芯穹聯合宣布,雙方已經正式完成MT-infini-3B 3B(30億參數)規模大模型的實訓,基于摩爾線程國產全功能GPU MTT S4000組成的千卡集群,以及無問芯穹的AIStudio PaaS平臺。C0v28資訊網——每日最新資訊28at.com

本次實訓充分驗證了夸娥千卡智算集群在大模型訓練場景下的可靠性,同時也在行業內率先開啟了國產大語言模型與國產GPU千卡智算集群深度合作的新范式。C0v28資訊網——每日最新資訊28at.com

據悉,這次的MT-infini-3B模型訓練總共用時13.2天,全程穩定無中斷,集群訓練穩定性達到100%,千卡訓練和單機相比擴展效率超過90%。C0v28資訊網——每日最新資訊28at.com

目前,實訓出來的MT-infini-3B性能在同規模模型中躋身前列,相比在國際主流硬件上(尤其是NVIDIA)訓練而成的其他模型,在C-Eval、MMLU、CMMLU等3個測試集上均實現性能領先。C0v28資訊網——每日最新資訊28at.com

可替代NVIDIA!摩爾線程GPU千卡集群完成30億參數大模型實訓C0v28資訊網——每日最新資訊28at.com

無問芯穹正在打造“M種模型”和“N種芯片”之間的“M x N”中間層產品,實現多種大模型算法在多元芯片上的高效、統一部署,已與摩爾線程達成深度戰略合作。C0v28資訊網——每日最新資訊28at.com

摩爾線程是第一家接入無問芯穹并進行千卡級別大模型訓練的國產GPU公司,夸娥千卡集群已與無穹Infini-AI順利完成系統級融合適配,完成LLama2 700億參數大模型的訓練測試。C0v28資訊網——每日最新資訊28at.com

T-infini-3B的訓練,則是行業內首次實現基于國產GPU芯片從0到1的端到端大模型實訓案例。C0v28資訊網——每日最新資訊28at.com

可替代NVIDIA!摩爾線程GPU千卡集群完成30億參數大模型實訓C0v28資訊網——每日最新資訊28at.com

就在日前,基于摩爾線程的夸娥千卡集群,憨猴集團也成功完成了7B、34B、70B不同參數量級的大模型分布式訓練,雙方還達成戰略合作。C0v28資訊網——每日最新資訊28at.com

經雙方共同嚴苛測試,兼容適配程度高,訓練效率達到預期,精度符合要求,整個訓練過程持續穩定。C0v28資訊網——每日最新資訊28at.com

可替代NVIDIA!摩爾線程GPU千卡集群完成30億參數大模型實訓C0v28資訊網——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-24-90950-0.html摩爾線程國產GPU重大里程碑!千卡集群完成30億參數大模型實訓

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: AOC推出新款24寸顯示器:FHD 180Hz屏首發699元

下一篇: NVIDIA AI PC處理器曝光:Arm X5超大核、RTX 50同款GPU

標簽:
  • 熱門焦點
Top 主站蜘蛛池模板: 张家川| 丰台区| 高要市| 南溪县| 满洲里市| 嵊泗县| 阳江市| 尼玛县| 舟曲县| 秦皇岛市| 丰镇市| 凤翔县| 古丈县| 高安市| 亚东县| 烟台市| 楚雄市| 颍上县| 察雅县| 白水县| 衢州市| 海口市| 太和县| 湘潭县| 阳朔县| 西和县| 卓尼县| 教育| 康平县| 本溪| 新竹市| 昌黎县| 江源县| 博兴县| 东海县| 岱山县| 永昌县| 昌黎县| 神农架林区| 韶关市| 松阳县|