快科技5月20日消息,NVIDIA宣布,TensorRT AI推理加速框架現(xiàn)已登陸GeForce RTX顯卡,性能比DirectML直接翻倍。
TensorRT是NVIDIA推出的一種推理優(yōu)化器,能夠顯著提升AI模型的運(yùn)行效率,此次,NVIDIA將TensorRT引入RTX平臺(tái),使得所有RTX顯卡的用戶都能享受到更快的AI性能。
根據(jù)NVIDIA的介紹,TensorRT不僅支持原生Windows ML,還能夠自動(dòng)選擇合適的硬件來(lái)運(yùn)行每個(gè)AI功能,并下載相應(yīng)的執(zhí)行提供程序,極大地簡(jiǎn)化了開(kāi)發(fā)流程。
在性能方面,NVIDIA展示了TensorRT與DirectML的對(duì)比數(shù)據(jù):在ComfyUI中,使用TensorRT的用戶可以獲得高達(dá)2倍的性能提升;在DaVinci Resolve和Vegas Pro中,性能提升達(dá)到了60%。
此外,TensorRT for RTX還帶來(lái)了其他優(yōu)勢(shì),例如8倍更小的庫(kù)文件大小和針對(duì)每個(gè)GPU的即時(shí)優(yōu)化,這些改進(jìn)不僅提升了性能,還優(yōu)化了軟件的存儲(chǔ)和管理。
TensorRT for RTX將在6月正式推出,NVIDIA還在不斷擴(kuò)展其AI SDKs,目前正為超過(guò)150個(gè)AI SDK提供支持,本月將推出5個(gè)新的ISV集成,包括LM Studio、Topaz Video AI、Bilibili、AutoDesk VRED和Chaos Enscape等。
本文鏈接:http://www.www897cc.com/showinfo-24-152059-0.html支持所有RTX顯卡!NVIDIA TensorRT帶來(lái)性能翻倍提升
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com