日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 科技  > 芯片

英偉達推出最強AI芯片:首發HMB3e,大模型運行能力提升3.5倍!

來源: 責編: 時間:2023-08-09 23:03:03 367觀看
導讀早在今年5月29日,AI芯片大廠英偉達(NVIDIA) CEO黃仁勛就在COMPUTEX 2023展前發布會上,正式發布了升級版的GH200Grace Hopper超級芯片,旨在助力開發面向生成式AI語言應用、推薦系統和數據分析工作負載的巨型、下一代模型。G
< style="">

今年5月29日,AI芯片大廠英偉達(NVIDIA) CEO黃仁勛就在COMPUTEX 2023展前發布會上,正式發布了升級版的GH200Grace Hopper超級芯片,旨在助力開發面向生成式AI語言應用、推薦系統和數據分析工作負載的巨型、下一代模型。B9H28資訊網——每日最新資訊28at.com

GH200超級芯片,是將 72 核的Grace CPU、H100 GPU、96GB 的 HBM3 和 512 GB 的 LPDDR5X 集成在同一個封裝中,擁有高達 2000 億個晶體管。這種組合提供了 CPU 和 GPU 之間驚人的數據帶寬,高達 900 GB / s,為某些內存受限的工作負載提供了巨大的優勢。B9H28資訊網——每日最新資訊28at.com

相關文章:《AI性能突破1Eflop!英偉達DGX GH200發布:256個GH200芯片,144TB共享內存!》B9H28資訊網——每日最新資訊28at.com

美國當地時間8月8日,英偉達又發布了新一代GH200 Grace Hopper(簡稱“新版GH200”)平臺。但與今年5月發布的GH200不同的是,新一代GH200搭載了全球首款HBM3e內存內存容量和帶寬都有顯著提高,專為加速計算和生成式AI時代而打造。B9H28資訊網——每日最新資訊28at.com

英偉達稱,新版GH200旨在處理世界上最復雜的生成式AI工作負載,涵蓋大型語言模型、推薦系統和矢量數據庫,將提供多種配置。新版GH200將于2024年第二季度投產。B9H28資訊網——每日最新資訊28at.com

B9H28資訊網——每日最新資訊28at.com

具體來說,新版GH200芯片平臺基于 72 核 Grace CPU,配備 480 GB ECC LPDDR5X 內存以GH100 計算 GPU,搭配 141 GB 的 HBM3e 內存,分為六個 24 GB 的堆棧,并使用了 6,144 位的內存接口。雖然英偉達實際安裝了 144 GB 的內存,但只有 141 GB 是可用的。
B9H28資訊網——每日最新資訊28at.com

相比原版GH200平臺,新版GH200平臺的雙芯片配置將內存容量提高3.5倍,帶寬增加三倍,一個服務器就有144個Arm Neoverse高性能內核、8 petaflops 的 AI 性能和282GB的最新HBM3e內存技術。B9H28資訊網——每日最新資訊28at.com

HBM3e是全新一代的高帶寬內存,帶寬達每秒5TB,比原版的GH200所搭載的HBM3快50%,可為新版的GH200提供總共每秒10TB的組合帶寬,使新平臺能運行比前代大3.5倍的模型,同時通過快3倍的內存帶寬提高性能。B9H28資訊網——每日最新資訊28at.com

據英偉達介紹,目前配備 HBM3 內存的原版GH200Grace Hopper超級芯片平臺已經在生產中,并將于下個月開始商業銷售。而配備 HBM3e 內存的新版GH200Grace Hopper超級芯片平臺現在正在樣品測試中,預計將于 2024 年第二季度上市。B9H28資訊網——每日最新資訊28at.com

英偉達強調,新版GH200 Grace Hopper 使用了與原版相同的 Grace CPU 和 GH100 GPU 芯片,因此公司無需推出任何新的軟件版本或步進。英偉達表示,原版 GH200 和升級版 GH200 將在市場上共存,這意味著后者將以更高的價格出售,畢竟其更先進的內存技術帶來的更高性能。B9H28資訊網——每日最新資訊28at.com

英偉達表示,配備 HBM3e 內存的下一代 Grace Hopper 超級芯片平臺完全兼容英偉達的 MGX 服務器規范,并且可以與現有的服務器設計直接兼容。B9H28資訊網——每日最新資訊28at.com

黃仁勛說,為了滿足生成式 AI 不斷增長的需求,數據中心需要有針對特殊需求的加速計算平臺。新的GH200 Grace Hopper 超級芯片平臺提供了卓越的內存技術和帶寬,以此提高吞吐量,提升無損耗連接GPU聚合性能的能力,并且擁有可以在整個數據中心輕松部署的服務器設計。B9H28資訊網——每日最新資訊28at.com

快速創建生成式AI的工具包AI WorkbenchB9H28資訊網——每日最新資訊28at.com

除了新款GH200,英偉達周二還發布了新的統一工具包AI Workbench,以及對英偉達Omniverse軟件服務的重大升級。B9H28資訊網——每日最新資訊28at.com

AI Workbench為開發者提供了統一且便于使用的工具包,可在個人電腦(PC)或工作站上快速創建、測試和微調生成式AI模型,然后將其擴展到幾乎任何數據中心、公共云或者英偉達的DGX云。B9H28資訊網——每日最新資訊28at.com

B9H28資訊網——每日最新資訊28at.com

英偉達稱,AI Workbench讓企業的AI項目入門不再復雜。通過在本地系統運行的簡化界面進行訪問,它讓開發者能使用自定義數據微調Hugging Face、GitHub 和 NGC 等常用存儲庫中的模型,然后可以在多個平臺上輕松共享模型。B9H28資訊網——每日最新資訊28at.com

借助AI Workbench,開發者只需點擊幾下即可自定義和運行生成式AI,而且他們能夠將所有必要的企業級模型、框架、軟件開發套件和庫整合到一個統一的開發者工作區中。B9H28資訊網——每日最新資訊28at.com

用黃仁勛的話來說就是:“人人都可以做到?!?span style="display:none">B9H28資訊網——每日最新資訊28at.com

Omniverse平臺升級 通過OpenUSD軟件利用生成式AIB9H28資訊網——每日最新資訊28at.com

英偉達的升級版Omniverse平臺為開發者和工業企業提供新的基礎應用與服務,以OpenUSD框架和生成式AI優化及增強他們的3D管道。B9H28資訊網——每日最新資訊28at.com

升級版Omniverse平臺是一個高性能3D場景描述技術OpenUSD的原生軟件平臺,用于跨3D工具和應用的連接、描述和模擬,能加快創建虛擬世界和工業數字化高級工作流程。Cesium、Convai、Move AI、SideFX Houdini 和 Wonder Dynamics現已通過 OpenUSD 連接到 Omniverse。B9H28資訊網——每日最新資訊28at.com

新平臺的亮點包括更新開發原生OpenUSD應用及擴展的引擎——Omniverse Kit,以及英偉達Omniverse Audio2Face基礎應用和空間計算功能的更新。B9H28資訊網——每日最新資訊28at.com

Omniverse 和模擬技術副總裁 Rev Lebaredian表示,更新后的Omniverse 讓開發人員可以通過OpenUSD利用生成式AI強化他們的工具,并且讓工業企業能構建更大、更復雜的世界級模擬,作為其工業應用的數字測試場。B9H28資訊網——每日最新資訊28at.com

編輯:芯智訊-浪客劍
B9H28資訊網——每日最新資訊28at.com

往期精彩文章

ODM大廠華勤技術登陸主板:三年累計凈利超65億元,募資55億元!
B9H28資訊網——每日最新資訊28at.com

2023美國半導體產業現狀:36%銷售額來自于中國!
B9H28資訊網——每日最新資訊28at.com

張忠謀:美國公司將失去業務,中國將找到反擊的方法!B9H28資訊網——每日最新資訊28at.com

立即生效!印度宣布限制PC相關產品進口!B9H28資訊網——每日最新資訊28at.com

在中國市場,Arm服務器份額已接近15%!B9H28資訊網——每日最新資訊28at.com

AMD凈利同比暴跌94%!環比暴漲119%!蘇姿豐:AI將帶來數十億美元增長機會!B9H28資訊網——每日最新資訊28at.com

中國宣布對部分無人機實施出口管制!航天彩虹、大疆等企業或受影響!
B9H28資訊網——每日最新資訊28at.com

主頻提升25%!俄羅斯48核CPU仍不是華為鯤鵬920對手!B9H28資訊網——每日最新資訊28at.com

顛覆行業!英飛凌推可回收、可降解PCB:能溶解于90℃熱水,碳排放量減少60%!B9H28資訊網——每日最新資訊28at.com

英特爾CEO:如果沒了中國的訂單,再建晶圓廠就沒必要了!
B9H28資訊網——每日最新資訊28at.com

2022年全球CIS廠商排名:豪威第三,格科微跌出前五!
B9H28資訊網——每日最新資訊28at.com

Cerebras推出全球最強AI超算:5400萬個AI內核,算力高達4 exaFLOPS!B9H28資訊網——每日最新資訊28at.com

行業交流、合作請加微信:icsmart01
芯智訊官方交流群:221807116B9H28資訊網——每日最新資訊28at.com

B9H28資訊網——每日最新資訊28at.com

<

本文鏈接:http://www.www897cc.com/showinfo-27-5064-0.html英偉達推出最強AI芯片:首發HMB3e,大模型運行能力提升3.5倍!

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 投資100億歐元!臺積電德國建廠計劃公布:博世/英飛凌/恩智浦參股,2027年底量產!

下一篇: 星紀魅族回應裁員傳聞:已決定終止自研芯片業務!

標簽:
  • 熱門焦點
  • 2023年Q2用戶偏好榜:12+256G版本成新主流

    3月份的性能榜、性價比榜和好評榜之后,就要輪到2023年的第二季度偏好榜了,上半年的新機潮已經過去,最明顯的肯定就是大內存和存儲的機型了,另外部分中端機也取消了屏幕塑料支架
  • 一年經驗在二線城市面試后端的經驗分享

    忠告這篇文章只適合2年內工作經驗、甚至沒有工作經驗的朋友閱讀。如果你是2年以上工作經驗,請果斷劃走,對你沒啥幫助~主人公這篇文章內容來自 「升職加薪」星球星友 的投稿,坐
  • 如何通過Python線程池實現異步編程?

    線程池的概念和基本原理線程池是一種并發處理機制,它可以在程序啟動時創建一組線程,并將它們置于等待任務的狀態。當任務到達時,線程池中的某個線程會被喚醒并執行任務,執行完任
  • 一個注解實現接口冪等,這樣才優雅!

    場景碼猿慢病云管理系統中其實高并發的場景不是很多,沒有必要每個接口都去考慮并發高的場景,比如添加住院患者的這個接口,具體的業務代碼就不貼了,業務偽代碼如下:圖片上述代碼有
  • 每天一道面試題-CPU偽共享

    前言:了不起:又到了每天一到面試題的時候了!學弟,最近學習的怎么樣啊 了不起學弟:最近學習的還不錯,每天都在學習,每天都在進步! 了不起:那你最近學習的什么呢? 了不起學弟:最近在學習C
  • 東方甄選單飛:有些鳥注定是關不住的

    文/彭寬鴻編輯/羅卿東方甄選創始人俞敏洪帶隊的&ldquo;7天甘肅行&rdquo;直播活動已在近日順利收官。成立后一年多時間里,東方甄選要脫離抖音自立門戶的傳聞不絕于耳,&ldquo;7
  • 7月4日見!iQOO 11S官宣:“雞血版”驍龍8 Gen2+200W快充加持

    上半年已接近尾聲,截至目前各大品牌旗下的頂級旗艦都已悉數亮相,而下半年即將推出的頂級旗艦已經成為了數碼圈爆料的主流,其中就包括全新的iQOO 11S系
  • 質感不錯!OPPO K11渲染圖曝光:旗艦IMX890傳感器首次下放

    一直以來,OPPO K系列機型都保持著較為均衡的產品體驗,歷來都是2K價位的明星機型,去年推出的OPPO K10和OPPO K10 Pro兩款機型憑借各自的出色配置,堪稱有
  • onebot M24巧系列一體機采用輕薄機身設計,現已在各平臺開售

    onebot M24 巧系列一體機目前已在線上線下各平臺同步開售。onebot M24 巧系列采用一體化輕薄機身設計,最薄處為 10.15mm,擁有寶石紅、午夜藍、石墨綠、雅致
Top 主站蜘蛛池模板: 汤原县| 潼南县| 嘉义市| 美姑县| 迁安市| 威信县| 夏邑县| 阿鲁科尔沁旗| 云梦县| 平利县| 长沙县| 五寨县| 乐昌市| 建湖县| 峨眉山市| 紫云| 乐安县| 辉县市| 黎平县| 鸡西市| 德阳市| 泸溪县| 湖州市| 婺源县| 卓资县| 巨鹿县| 茌平县| 迭部县| 杂多县| 高州市| 海盐县| 密云县| 高台县| 洪湖市| 新晃| 鹿邑县| 上杭县| 桂阳县| 芜湖市| 济南市| 报价|