日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當(dāng)前位置:首頁 > 科技  > 知識百科

煉丹速度×7!你的Mac電腦也能在PyTorch訓(xùn)練中用GPU加速了

來源: 責(zé)編: 時間:2023-08-07 16:30:18 256觀看
導(dǎo)讀 本文經(jīng)AI新媒體量子位(公眾號ID:QbitAI)授權(quán)轉(zhuǎn)載,轉(zhuǎn)載請聯(lián)系出處。一直以來,Pytorch在Mac上僅支持使用CPU進(jìn)行訓(xùn)練。就在剛剛,Pytorch官方宣布,其最新版v1.12可以支持GPU加速了。

本文經(jīng)AI新媒體量子位(公眾號ID:QbitAI)授權(quán)轉(zhuǎn)載,轉(zhuǎn)載請聯(lián)系出處。QlI28資訊網(wǎng)——每日最新資訊28at.com

一直以來,Pytorch在Mac上僅支持使用CPU進(jìn)行訓(xùn)練。QlI28資訊網(wǎng)——每日最新資訊28at.com

就在剛剛,Pytorch官方宣布,其最新版v1.12可以支持GPU加速了。QlI28資訊網(wǎng)——每日最新資訊28at.com

只要是搭載了M1系列芯片的Mac都行。QlI28資訊網(wǎng)——每日最新資訊28at.com

QlI28資訊網(wǎng)——每日最新資訊28at.com

這也就意味著在Mac本機(jī)用Pytorch“煉丹”會更方便了!QlI28資訊網(wǎng)——每日最新資訊28at.com

訓(xùn)練速度可提升約7倍QlI28資訊網(wǎng)——每日最新資訊28at.com

此功能由Pytorch與Apple的Metal工程團(tuán)隊合作推出。QlI28資訊網(wǎng)——每日最新資訊28at.com

它使用Apple的Metal Performance Shaders(MPS) 作為PyTorch的后端來啟用GPU加速訓(xùn)練。QlI28資訊網(wǎng)——每日最新資訊28at.com

為了優(yōu)化計算性能,MPS還針對Metal GPU系列的獨(dú)特特性對每個內(nèi)核進(jìn)行了微調(diào)。QlI28資訊網(wǎng)——每日最新資訊28at.com

Metal是一個類似OpenGL的框架,只不過OpenGL適用于各平臺的移動端GPU渲染和計算,Metal專用于iOS/MacOS平臺,不過也兼顧了性能和易用性。QlI28資訊網(wǎng)——每日最新資訊28at.com

MPS就是一套基于Metal框架的庫,直接調(diào)用即可使用GPU的高性能進(jìn)行圖形處理、構(gòu)建卷積神經(jīng)網(wǎng)絡(luò)等工作。QlI28資訊網(wǎng)——每日最新資訊28at.com

QlI28資訊網(wǎng)——每日最新資訊28at.com

蘋果官方在搭載了M1 Ultra、20核CPU、64核GPU、128GB RAM和2TB SSD的Mac Studio上進(jìn)行了測試。QlI28資訊網(wǎng)——每日最新資訊28at.com

(這陣容差不多能算是豪華配置了)。QlI28資訊網(wǎng)——每日最新資訊28at.com

他們分別訓(xùn)練了batch size為128的ResNet50、batch size為64的HuggingFace BERT,以及batch size=64的VGG16。QlI28資訊網(wǎng)——每日最新資訊28at.com

從下圖中我們可以發(fā)現(xiàn),相比使用CPU加速,使用GPU可將模型訓(xùn)練速度提高約7倍,評估(evaluation)速度則最高能提約20倍。QlI28資訊網(wǎng)——每日最新資訊28at.com

QlI28資訊網(wǎng)——每日最新資訊28at.com

看到這兒,有網(wǎng)友開始好奇它與搭載了Nvidia GPU的laptop相比性能如何。QlI28資訊網(wǎng)——每日最新資訊28at.com

QlI28資訊網(wǎng)——每日最新資訊28at.com

有人表示,雖說目前M1的原始計算性能比不上英偉達(dá)的產(chǎn)品,但功耗方面還不錯。未來蘋果很有可能慢慢追上性能。QlI28資訊網(wǎng)——每日最新資訊28at.com

總的來說,Mac Studio現(xiàn)在看起來實在太香了。QlI28資訊網(wǎng)——每日最新資訊28at.com

他進(jìn)一步解釋道:QlI28資訊網(wǎng)——每日最新資訊28at.com

“畢竟它是你花4800美元就能買到的最便宜、包含128GB GPU內(nèi)存的機(jī)器。現(xiàn)在有了基于GPU加速的PyTorch支持,完全可以用來訓(xùn)練大模型、配置大的batch size。QlI28資訊網(wǎng)——每日最新資訊28at.com

對于我所做的那種DL工作,數(shù)據(jù)加載比實際的原始計算能力更容易成為瓶頸。”QlI28資訊網(wǎng)——每日最新資訊28at.com

QlI28資訊網(wǎng)——每日最新資訊28at.com

你心動了嗎?QlI28資訊網(wǎng)——每日最新資訊28at.com

現(xiàn)在就試試?QlI28資訊網(wǎng)——每日最新資訊28at.com

只需保證你的macOS操作系統(tǒng)在12.3版本及以上,且安裝了arm64原生Python,然后去官網(wǎng)下載最新的Pytorch預(yù)覽版就可以了。QlI28資訊網(wǎng)——每日最新資訊28at.com

QlI28資訊網(wǎng)——每日最新資訊28at.com

地址:QlI28資訊網(wǎng)——每日最新資訊28at.com
https://pytorch.org/blog/introducing-accelerated-pytorch-training-on-mac/QlI28資訊網(wǎng)——每日最新資訊28at.com

 QlI28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-119-2334-0.html煉丹速度×7!你的Mac電腦也能在PyTorch訓(xùn)練中用GPU加速了

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 用Elastic Block Store(EBS)改善性能和數(shù)據(jù)可用性 譯文

下一篇: 淺談:什么是云網(wǎng)絡(luò)?

標(biāo)簽:
  • 熱門焦點
Top 主站蜘蛛池模板: 五莲县| 临澧县| 宁南县| 丰县| 乐业县| 周至县| 天祝| 宜宾市| 垦利县| 汤阴县| 吉林市| 呼图壁县| 安陆市| 陕西省| 从江县| 英吉沙县| 江永县| 揭西县| 凤庆县| 孝感市| 徐闻县| 志丹县| 永寿县| 中卫市| 西安市| 浦县| 会同县| 齐齐哈尔市| 乐业县| 新沂市| 贵州省| 利津县| 承德县| 雷波县| 虹口区| 长垣县| 清河县| 蕲春县| 渭源县| 常州市| 栖霞市|