把LangChain跑起來(lái)的三個(gè)方法
使用LangChain開(kāi)發(fā)LLM應(yīng)用時(shí)，需要機(jī)器進(jìn)行GLM部署，好多同學(xué)第一步就被勸退了，那么如何繞過(guò)這個(gè)步驟先學(xué)習(xí)LLM模型的應(yīng)用，對(duì)Langchain進(jìn)行快速上手？本片講解3個(gè)把LangChain跑起來(lái)
10月11日，AMD正式發(fā)布銳龍AI PRO 300系列商用移動(dòng)處理器。
作為面向商用的第三代AI PC處理器，銳龍AI PRO 300系列較上代CPU、GPU與NPU全面升級(jí)，特別是NPU算力提升至50-55 TOPS，達(dá)到2023年銳龍PRO 7040系列處理器的5倍，支持商用場(chǎng)景下創(chuàng)新的AI應(yīng)用場(chǎng)景，滿足在PC端部署AI的性能需求。
性能提升的同時(shí)，AMD也在積極推進(jìn)與ISV等合作伙伴共建AI PC應(yīng)用生態(tài)，探索AI PC釋放價(jià)值的應(yīng)用場(chǎng)景。結(jié)合持續(xù)更新的AMD PRO技術(shù)，在保證數(shù)據(jù)安全的情況下，進(jìn)一步優(yōu)化可管理性，簡(jiǎn)化部署運(yùn)維。
銳龍AI PRO 300系列的CPU采用了領(lǐng)先的4nm制程和創(chuàng)新的Zen 5架構(gòu)，GPU為RDNA 3.5架構(gòu)，NPU為XDNA 2架構(gòu)。
對(duì)比今年4月份發(fā)布的銳龍PRO 8040系列處理器(第二代AI PC商用處理器)，銳龍AI PRO 300系列核心數(shù)量增加了50%，緩存增加了50%，GPU的CU單元從12個(gè)增加到16個(gè)。
NPU算力提升提高至50-55 TOPS，cTDP仍舊是15—54W，憑借全新特性，AMD表示銳龍AI PRO 300系列將兼顧性能與續(xù)航，讓新一代商用AI PC支持更高效散熱與安靜運(yùn)行環(huán)境。
銳龍AI PRO 300系列共有三款SKU，具體規(guī)格如下。
銳龍AI 9 HX PRO 375擁有12核心24線程，高加速頻率5.1GHz，緩存36MB，NPU算力達(dá)到55TOPS。集成AMD Radeon 890M顯卡。
銳龍AI 9 HX PRO 370擁有12核心24線程，高加速頻率5.1GHz，緩存36MB，NPU算力達(dá)到50TOPS。集成AMD Radeon 890M顯卡。
銳龍AI 7 PRO 360擁有8核心16線程，高加速頻率5.0GHz，緩存24MB，NPU算力達(dá)到50TOPS。集成AMD Radeon 880M顯卡。
性能方面，銳龍AI 7 PRO 360對(duì)比英特爾酷睿Ultra 7 165U在CINEBENCH R24測(cè)試中領(lǐng)先達(dá)到30%。若是更高性能的銳龍AI 9 HX PRO 375對(duì)比酷睿Ultra 7 165H優(yōu)勢(shì)達(dá)到40%。
在UL Procyon Office生產(chǎn)力測(cè)試中，銳龍AI 7 PRO 360比酷睿Ultra 7 165U領(lǐng)先近10%。銳龍AI 9 HX PRO 375對(duì)比酷睿Ultra 7 165H的優(yōu)勢(shì)為14%。
CPU、GPU性能提升讓銳龍AI PRO 300系列面對(duì)多任務(wù)處理、影像編輯等工作負(fù)載提供更順暢、高效體驗(yàn)，此外作為銳龍AI PRO 300系列提升顯著的AI也值得關(guān)注。但是想要發(fā)揮AI特性的價(jià)值就要解決一個(gè)關(guān)鍵問(wèn)題——高達(dá)55 TOPS的AI算力，企業(yè)與用戶能用來(lái)做什么？
這里AMD介紹了幾類(lèi)AI賦能企業(yè)的典型應(yīng)用場(chǎng)景，如提升企業(yè)級(jí)生產(chǎn)力、改善協(xié)同辦公、革命性的創(chuàng)作及編輯、個(gè)人AI助理、增強(qiáng)的隱私特性等。
其中結(jié)合AIGC的創(chuàng)作場(chǎng)景已經(jīng)有很多企業(yè)、員工使用，提升了工作效率。還有AI PC基于本地部署大模型等特性帶來(lái)的個(gè)性化、安全性優(yōu)勢(shì)也深受行業(yè)客戶歡迎。
AI PC應(yīng)用和場(chǎng)景的進(jìn)一步豐富，將有助于更多的用戶選擇商用AI PC。因此，除了硬件算力迭代外，軟件應(yīng)用生態(tài)的拓展也同樣重要。
就這一點(diǎn)而言，AMD與廣大ISV深入合作，配合自家的軟件工具，來(lái)適配更多應(yīng)用和功能。比如，AMD推出的Ryzen AI技術(shù)可以助力更快速、更輕松地部署AI應(yīng)用，減少合作伙伴的優(yōu)化負(fù)擔(dān)。
AMD與合作伙伴也將AI技術(shù)應(yīng)用于企業(yè)客戶的安全防護(hù)，例如推出基于AI的反釣魚(yú)技術(shù)等等。
針對(duì)企業(yè)客戶、商用用戶關(guān)注的安全性、可管理性等方面，AMD PRO技術(shù)也帶來(lái)了新特性，在支持AMD安全啟動(dòng)、AMD Memory Guard等功能的基礎(chǔ)上，有來(lái)自Zen 5架構(gòu)帶來(lái)的安全功能優(yōu)化、第二代AMD安全協(xié)處理器支持的一系列底層安全防護(hù)，還將支持cBMR系統(tǒng)恢復(fù)管理、具備可追溯性的供應(yīng)鏈安全驗(yàn)證、WDT通過(guò)檢測(cè)和恢復(fù)掛起的SoC進(jìn)程為系統(tǒng)提供彈性支持等功能。
AMD表示，到2025年將有上百款采用AMD銳龍AI PRO技術(shù)的商用PC平臺(tái)面市。
本文鏈接：http://www.www897cc.com/showinfo-24-118337-0.htmlAMD銳龍AI PRO 300系列處理器詳解：AI性能提升5倍
聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請(qǐng)聯(lián)系：2376512515@qq.com 津ICP備18001702號(hào)
津公網(wǎng)安備 12010102000574號(hào)