日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當(dāng)前位置：首頁(yè) > 元宇宙 > AI

英偉達(dá)Blackwell DGX系統(tǒng)刷新DeepSeek推理性能世界紀(jì)錄

來(lái)源： 責(zé)編： 時(shí)間：2025-03-19 09:42:20 55觀看
導(dǎo)讀英偉達(dá)在NVIDIA GTC 2025大會(huì)上宣布，其最新推出的NVIDIA Blackwell DGX系統(tǒng)在DeepSeek-R1大模型推理性能上創(chuàng)造了世界紀(jì)錄。這一突破性進(jìn)展標(biāo)志著英偉達(dá)在人工智能推理技術(shù)上的又一次飛躍。據(jù)悉，在單個(gè)搭載八塊Blackwel

英偉達(dá)在NVIDIA GTC 2025大會(huì)上宣布，其最新推出的NVIDIA Blackwell DGX系統(tǒng)在DeepSeek-R1大模型推理性能上創(chuàng)造了世界紀(jì)錄。這一突破性進(jìn)展標(biāo)志著英偉達(dá)在人工智能推理技術(shù)上的又一次飛躍。8U928資訊網(wǎng)——每日最新資訊28at.com

據(jù)悉，在單個(gè)搭載八塊Blackwell GPU的DGX系統(tǒng)上，DeepSeek-R1模型以6710億參數(shù)的滿血狀態(tài)運(yùn)行，實(shí)現(xiàn)了每用戶每秒超過(guò)250 token的響應(yīng)速度，系統(tǒng)整體吞吐量更是突破了每秒3萬(wàn)token的大關(guān)。這一數(shù)據(jù)不僅彰顯了Blackwell GPU的強(qiáng)大性能，也展示了英偉達(dá)在優(yōu)化大型語(yǔ)言模型推理方面的深厚實(shí)力。8U928資訊網(wǎng)——每日最新資訊28at.com

8U928資訊網(wǎng)——每日最新資訊28at.com

英偉達(dá)強(qiáng)調(diào)，隨著Blackwell Ultra GPU和Blackwell GPU的不斷升級(jí)，NVIDIA平臺(tái)將繼續(xù)在推理性能上實(shí)現(xiàn)新的突破。這一承諾不僅體現(xiàn)在硬件上，還體現(xiàn)在軟件優(yōu)化上。英偉達(dá)通過(guò)結(jié)合硬件和軟件的力量，自2025年1月以來(lái)，成功將DeepSeek-R1 671B模型的吞吐量提高了約36倍。8U928資訊網(wǎng)——每日最新資訊28at.com

在會(huì)上，英偉達(dá)還展示了不同配置下的DGX系統(tǒng)性能。包括DGX B200（8塊GPU）和DGX H200（8塊GPU）在內(nèi)的單節(jié)點(diǎn)配置，在采用TensorRT-LLM軟件的最新內(nèi)部版本進(jìn)行測(cè)試時(shí)，展現(xiàn)了出色的推理性能。測(cè)試參數(shù)包括輸入1024 token和輸出2048 token，并發(fā)性達(dá)到最大。在計(jì)算精度上，B200采用了FP4精度，而H200則采用了FP8精度。8U928資訊網(wǎng)——每日最新資訊28at.com

8U928資訊網(wǎng)——每日最新資訊28at.com

英偉達(dá)還對(duì)比了Blackwell架構(gòu)與Hopper架構(gòu)在推理性能上的差異。結(jié)果顯示，Blackwell架構(gòu)與TensorRT軟件相結(jié)合，可以顯著提升推理性能。在DeepSeek-R1、Llama 3.1 405B和Llama 3.3 70B等模型上，使用FP4精度的DGX B200平臺(tái)和DGX H200平臺(tái)相比，推理吞吐量提高了3倍以上。8U928資訊網(wǎng)——每日最新資訊28at.com

8U928資訊網(wǎng)——每日最新資訊28at.com

英偉達(dá)還展示了不同數(shù)據(jù)集上DeepSeek-R1模型的精度表現(xiàn)。在FP4和FP8精度下，DeepSeek-R1模型在MMLUG、SM8K、AIME 2024、GPQA和DiamondMATH-500等數(shù)據(jù)集上的表現(xiàn)均十分出色。值得注意的是，在使用TensorRT Model Optimizer的FP4訓(xùn)練后量化（PTQ）技術(shù)時(shí)，DeepSeek-R1模型在不同數(shù)據(jù)集上的精度損失微乎其微，這進(jìn)一步證明了英偉達(dá)在量化技術(shù)上的領(lǐng)先地位。8U928資訊網(wǎng)——每日最新資訊28at.com

8U928資訊網(wǎng)——每日最新資訊28at.com

英偉達(dá)表示，在對(duì)模型進(jìn)行量化以利用低精度計(jì)算優(yōu)勢(shì)時(shí)，確保精度損失最小化是生產(chǎn)部署的關(guān)鍵。通過(guò)不斷的技術(shù)創(chuàng)新和優(yōu)化，英偉達(dá)將繼續(xù)為客戶提供更高效、更準(zhǔn)確的AI推理解決方案。8U928資訊網(wǎng)——每日最新資訊28at.com

舉報(bào) 0收藏 0打賞 0評(píng)論 0
 
 
更多>同類資訊
AMD潘曉明：攜手伙伴加速中國(guó)AI PC生態(tài)，ISV合作伙伴將增至170家
03-19
英偉達(dá)首發(fā)開源人形機(jī)器人GR00T N1，加速機(jī)器人開發(fā)新時(shí)代
03-19
黃仁勛：AI規(guī)模擴(kuò)展速度未減，世界判斷失誤？
03-19
百川智能現(xiàn)金流穩(wěn)健，茹立云透露：公司資金能撐超48個(gè)月
據(jù)智能涌現(xiàn)報(bào)道，在一次百川智能內(nèi)部會(huì)上，公司聯(lián)合創(chuàng)始人茹立云將“六小虎”的現(xiàn)金流水平分為5檔，即能活6個(gè)月的、12個(gè)月的、24個(gè)月的、48個(gè)月的和超過(guò)48個(gè)月的。百川智能則在“超過(guò)48個(gè)月”這檔。…
03-19
馬斯克收購(gòu)視頻生成初創(chuàng)公司Hotshot，或?qū)⑼瞥鯣rok視頻模型？
據(jù)報(bào)道，日前，馬斯克的xAI公司收購(gòu)了一家視頻生成初創(chuàng)公司，該公司曾打造Hotshot產(chǎn)品。 據(jù)悉，目前，Hotshot已推出3款視頻生成基礎(chǔ)模型。被收購(gòu)之后，目前已停止推出新的視頻創(chuàng)作功能，而且用戶過(guò)往創(chuàng)作…
03-19
平湖童車：駛向全球市場(chǎng)的“小巨人”，如何續(xù)寫新篇章？
03-19
英偉達(dá)GTC大會(huì)：全球首款開源人形機(jī)器人GR00T N1震撼登場(chǎng)！
03-19
卓馭發(fā)布可個(gè)性化定制智駕方案GenDrive，年內(nèi)將量產(chǎn)上車
03-19
卓馭AI發(fā)布GenDrive：個(gè)性化生成式智駕，今年量產(chǎn)上市
03-19
卓馭AI發(fā)布GenDrive：個(gè)性化生成式智駕，今年量產(chǎn)上市
03-19
聯(lián)想5月新品預(yù)告：AI領(lǐng)域“想見未見”的創(chuàng)新即將亮相
03-19
小米2025科研專項(xiàng)啟動(dòng)，全額資助高校課題，探索前沿技術(shù)
03-19
貓王妙播十周年：AI智慧音響引領(lǐng)行業(yè)新風(fēng)尚，共探未來(lái)音響藍(lán)圖
03-18
AMD AI PC創(chuàng)新峰會(huì)盛況：蘇姿豐攜新品亮相，共繪AI生態(tài)新藍(lán)圖
03-18
虎牙2024年Q4財(cái)報(bào)揭曉：營(yíng)收微降，凈虧損收窄至1.72億
03-18
點(diǎn)擊查看更多 +
全站最新
創(chuàng)維汽車2025戰(zhàn)略：新產(chǎn)品新技術(shù)齊發(fā)力，加速?zèng)_刺全球新能源市場(chǎng)
創(chuàng)維汽車2025戰(zhàn)略：新產(chǎn)品新技術(shù)齊發(fā)力，加速?zèng)_刺全球新能源市場(chǎng)
創(chuàng)維汽車全球經(jīng)銷商大會(huì)：新技術(shù)新產(chǎn)品引領(lǐng)新能源賽道新傳奇
創(chuàng)維汽車全球經(jīng)銷商大會(huì)：新技術(shù)新產(chǎn)品引領(lǐng)新能源賽道新傳奇
英偉達(dá)CEO黃仁勛：AI未來(lái)何方？詳解英偉達(dá)戰(zhàn)略與布局
英偉達(dá)CEO黃仁勛：AI未來(lái)何方？詳解英偉達(dá)戰(zhàn)略與布局
海螺AI升級(jí)！全新品牌MiniMax亮相，海螺視頻專注AI視頻領(lǐng)域
海螺AI升級(jí)！全新品牌MiniMax亮相，海螺視頻專注AI視頻領(lǐng)域
2025款昂科威S白金版來(lái)襲，豪華內(nèi)飾與強(qiáng)勁動(dòng)力能否帶來(lái)新驚喜？
2025款昂科威S白金版來(lái)襲，豪華內(nèi)飾與強(qiáng)勁動(dòng)力能否帶來(lái)新驚喜？
哈弗H5煥新上市，黑化套件加持，越野性能再升級(jí)，僅售14.78萬(wàn)元起
哈弗H5煥新上市，黑化套件加持，越野性能再升級(jí)，僅售14.78萬(wàn)元起
熱門內(nèi)容
  • 夸克AI搜索升級(jí)“深度思考”，純凈瀏覽器迎來(lái)智能新篇章！
  • 浙大發(fā)布“浙大先生”，深度融合智能體DeepSeek V3/R1全國(guó)高校共享！
  • 00后主播借AI工具DeepSeek，直播單日狂攬3.3億銷售額！
  • 夸克AI搜索升級(jí)“深度思考”，阿里自研模型加持，DeepSeek暫缺席
  • 微信生活服務(wù)添新成員，元寶App下載入口限時(shí)開放
  • 中國(guó)AI新突破！全球首款通用Agent產(chǎn)品Manus內(nèi)測(cè)引熱議
  • AI大模型時(shí)代，文科生將何去何從？
  • 馬斯克xAI發(fā)布Grok-3，杭州才子吳宇懷領(lǐng)銜創(chuàng)始團(tuán)隊(duì)亮相
  • 百度PC端DeepSeek入口上線，1小時(shí)破千萬(wàn)用戶嘗鮮AI搜索新體驗(yàn)！
  • 夸克AI搜索新升級(jí)：開啟“深度思考”，引領(lǐng)搜索行業(yè)AI新紀(jì)元
  • 阿里新夸克AI超級(jí)框上線，能否撼動(dòng)騰訊元寶的AI入口地位？
  • 悟空瀏覽器牽手DeepSeek R1，抖音內(nèi)容生態(tài)將迎新變化？
  • 夸克AI搜索新增“深度思考”，純凈瀏覽器變身智能提效神器！
  • 海淀AI新星硅基流動(dòng)：億元融資入局七千億市場(chǎng)，未來(lái)可期？
  • 360攜手華為，昇騰云賦能納米AI，DeepSeek-R1模型算力再升級(jí)！
本欄最新
AMD潘曉明：攜手伙伴加速中國(guó)AI PC生態(tài)，ISV合作伙伴將增至170家
AMD潘曉明：攜手伙伴加速中國(guó)AI PC生態(tài)，ISV合作伙伴將增至170家
英偉達(dá)首發(fā)開源人形機(jī)器人GR00T N1，加速機(jī)器人開發(fā)新時(shí)代
英偉達(dá)首發(fā)開源人形機(jī)器人GR00T N1，加速機(jī)器人開發(fā)新時(shí)代
平湖童車：駛向全球市場(chǎng)的“小巨人”，如何續(xù)寫新篇章？
平湖童車：駛向全球市場(chǎng)的“小巨人”，如何續(xù)寫新篇章？
英偉達(dá)GTC大會(huì)：全球首款開源人形機(jī)器人GR00T N1震撼登場(chǎng)！
英偉達(dá)GTC大會(huì)：全球首款開源人形機(jī)器人GR00T N1震撼登場(chǎng)！
卓馭發(fā)布可個(gè)性化定制智駕方案GenDrive，年內(nèi)將量產(chǎn)上車
卓馭發(fā)布可個(gè)性化定制智駕方案GenDrive，年內(nèi)將量產(chǎn)上車
卓馭AI發(fā)布GenDrive：個(gè)性化生成式智駕，今年量產(chǎn)上市
卓馭AI發(fā)布GenDrive：個(gè)性化生成式智駕，今年量產(chǎn)上市

本文鏈接：http://www.www897cc.com/showinfo-45-11608-0.html英偉達(dá)Blackwell DGX系統(tǒng)刷新DeepSeek推理性能世界紀(jì)錄

聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： 百川智能現(xiàn)金流強(qiáng)勁，茹立云：公司資金儲(chǔ)備超48個(gè)月無(wú)憂！

下一篇： AMD潘曉明：攜手伙伴加速中國(guó)AI PC生態(tài)，ISV合作伙伴將增至170家

標(biāo)簽：
  • 熱門焦點(diǎn)

最新推薦

猜你喜歡

熱門推薦

相關(guān)資訊

Top 主站蜘蛛池模板： 巫山县| 武义县| 潞西市| 札达县| 四平市| 成都市| 双柏县| 涡阳县| 彰化市| 芜湖市| 周至县| 罗源县| 京山县| 黑河市| 沧州市| 兴隆县| 宁夏| 宜州市| 海口市| 陵川县| 中牟县| 柳州市| 通榆县| 独山县| 杭锦旗| 汝南县| 尖扎县| 盐池县| 林芝县| 马鞍山市| 青海省| 石屏县| 三河市| 沁源县| 辉县市| 旅游| 南城县| 桃源县| 镇雄县| 昔阳县| 贵南县|