Redmi Pad評測：紅米充滿野心的一次嘗試
從Note系列到K系列，從藍牙耳機到筆記本電腦，紅米不知不覺之間也已經形成了自己頗有競爭力的產品體系，在中端和次旗艦市場上甚至要比小米新機的表現來得更好，正所謂“大丈夫生居
快科技11月12日消息，摩爾線程宣布，正式開源高性能線性代數模板庫MUTLASS，以便開發者能夠更高效地針對摩爾線程GPU MUSA Core、Tensor Core等單元進行編程，加速基于國產GPU的算子開發以及算法創新。
在此之前，摩爾線程已經相繼開源OpenCV-MUSA計算機視覺庫、MooER音頻理解大模型、vLLM-MUSA大語言模型高速推理框架。
▼ MUTLASS開源地址：
https://github.com/MooreThreads/mutlass
在數值計算和深度學習領域，矩陣乘法（GEMM）及其變種，比如FlashAttention、Convolution，是構建復雜上層應用的基石。
不夠，為了追求更高的算子融合效率，或者更創新的算法，開發者們往往需要超越標準化計算接口的限制，如標準BLAS接口以及芯片廠商的計算庫接口，以實現高性能的定制化算子。
MUTLASS（MUSA Templates for Linear Algebra Subroutines）正是為滿足這一需求而設計。
作為摩爾線程專為自研MUSA架構優化的高性能計算庫，MUTLASS是基于開源模板庫CUTLASS進行的MUSA適配和定制化開發、優化。
針對矩陣乘法及相關變種，MUTLASS提供了一系列高性能的C++模板組件，并采用了與muDNN庫類似的分層分解及數據搬運策略，以確保性能的充分發揮。
在本次開源的版本中，摩爾線程適配了CuTe后端庫，為其增加了第三代MUSA架構的MMA計算原語，支持TF32/FP16/BF16/INT8等多種數據精度，并以此為基礎，初步實現了矩陣乘法、默認實例庫、性能測試器及相關工具包的支持。
借助MUTLASS，開發者們既可以靈活復用不同層級的模板組件，也可以按需修改各種模板組件的實現細節，以較低的開發成本實現定制化的高性能算子，從而在摩爾線程全功能GPU上充分釋放性能，并嘗試更多的算法創新。
摩爾線程將持續優化MUTLASS的性能，并不斷引入新的功能。
本文鏈接：http://www.www897cc.com/showinfo-24-123455-0.html加速國產GPU開發！摩爾線程開源高性能計算庫MUTLASS
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號