K6：面向開發(fā)人員的現(xiàn)代負載測試工具
K6 是一個開源負載測試工具，可以輕松編寫、運行和分析性能測試。它建立在 Go 和 JavaScript 之上，它被設(shè)計為功能強大、可擴展且易于使用。k6 可用于測試各種應(yīng)用程序，包括 Web
英偉達官方近日宣布，其NIM（Nvidia Inference Microservices）微服務(wù)平臺已迎來新成員——DeepSeek R1 671b版本的預(yù)覽版。該版本現(xiàn)已在build.nvidia.com平臺上公開發(fā)布。
據(jù)悉，這一微服務(wù)以單個英偉達HGX H200系統(tǒng)為基礎(chǔ)，其強大的處理能力令人矚目，每秒可高效處理多達3872個token。這一性能的提升，無疑將為AI應(yīng)用的開發(fā)帶來更為廣闊的空間。
目前，開發(fā)人員已經(jīng)有機會對這一API進行測試與實驗。英偉達方面表示，不久的將來，該API將以可下載的NIM微服務(wù)形式，正式納入英偉達AI Enterprise軟件平臺，為更多用戶提供便捷的服務(wù)。
關(guān)于NIM，它是一種專為云原生環(huán)境設(shè)計的微服務(wù)技術(shù)。其核心理念在于簡化生成式AI模型在云端、數(shù)據(jù)中心以及GPU加速工作站上的部署流程，從而推動AI技術(shù)的廣泛應(yīng)用。
DeepSeek R1是由幻方量化旗下的AI公司DeepSeek所推出的大型模型。該模型在數(shù)學(xué)、代碼編寫、自然語言推理等多個領(lǐng)域均展現(xiàn)出卓越的性能，其能力足以與業(yè)界知名的OpenAI的o1模型相抗衡。
此次DeepSeek R1加入英偉達NIM微服務(wù)平臺，不僅進一步豐富了英偉達AI生態(tài)系統(tǒng)，也為AI開發(fā)者提供了更多選擇和可能性。未來，隨著技術(shù)的不斷發(fā)展和完善，我們有理由相信，這些先進的AI技術(shù)將在更多領(lǐng)域發(fā)揮重要作用。
本文鏈接：http://www.www897cc.com/showinfo-16-128301-0.htmlDeepSeek R1亮相英偉達NIM平臺，性能直追OpenAI o1模型！
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請聯(lián)系：2376512515@qq.com 津ICP備18001702號
津公網(wǎng)安備 12010102000574號