日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 科技  > 網絡

終結閉源霸權 Meta Llama 3.1橫空出世!Intel第一時間適配并提供加速

來源: 責編: 時間:2024-07-25 16:34:55 135觀看
導讀 快科技7月25日消息,日前Meta正式發布了Llama 3.1開源大模型,以其龐大的參數量和卓越性能,首次在多項基準測試中擊敗了GPT-4o等業界領先的閉源模型。允許開發者自由地進行微調、蒸餾,甚至在任何地方部署,這種開放

快科技7月25日消息,日前Meta正式發布了Llama 3.1開源大模型,以其龐大的參數量和卓越性能,首次在多項基準測試中擊敗了GPT-4o等業界領先的閉源模型。Ny528資訊網——每日最新資訊28at.com

允許開發者自由地進行微調、蒸餾,甚至在任何地方部署,這種開放性為AI技術的普及和創新提供了無限可能。Ny528資訊網——每日最新資訊28at.com

Llama 3.1支持128k的上下文長度和多語言能力,無論是在基本常識、可操作性還是數學、工具使用和多語言翻譯方面,都展現出了行業領先的能力。Ny528資訊網——每日最新資訊28at.com

緊隨其后,芯片巨頭Intel迅速響應,宣布其AI產品組合已全面適配Llama 3.1,并針對Intel AI硬件進行了軟件優化。Ny528資訊網——每日最新資訊28at.com

包括了數據中心、邊緣計算以及客戶端AI產品,確保用戶能夠在Intel平臺上獲得佳的性能體驗。Ny528資訊網——每日最新資訊28at.com

Intel的適配工作涵蓋了PyTorch及Intel PyTorch擴展包、DeepSpeed、Hugging Face Optimum庫和vLLM等,確保了從研發到部署的全流程支持。Ny528資訊網——每日最新資訊28at.com

終結閉源霸權 Meta Llama 3.1橫空出世!Intel第一時間適配并提供加速Ny528資訊網——每日最新資訊28at.com

目前,Intel AI PC及數據中心AI產品組合和解決方案已面向全新Llama 3.1模型實現優化,OPEA(企業AI開放平臺)亦在基于Intel至強等產品上全面啟用。Ny528資訊網——每日最新資訊28at.com

根據基準測試,在第五代Intel至強平臺上以1K token輸入和128 token輸出運行80億參數的Llama 3.1模型,可以達到每秒176 token的吞吐量,同時保持下一個token延遲小于50毫秒。Ny528資訊網——每日最新資訊28at.com

在配備了酷睿Ultra處理器和銳炫顯卡的AI PC上,進行輕量級微調和應用定制比以往更加容易,并且AI工作負載可無縫部署于CPU、GPU以及NPU上,同時實現性能優化。Ny528資訊網——每日最新資訊28at.com

終結閉源霸權 Meta Llama 3.1橫空出世!Intel第一時間適配并提供加速基于第五代Intel至強可擴展處理器的Llama 3.1推理延遲Ny528資訊網——每日最新資訊28at.com

終結閉源霸權 Meta Llama 3.1橫空出世!Intel第一時間適配并提供加速在配備內置Intel銳炫顯卡的Intel酷睿Ultra 7 165H AI PC上,Llama 3.1推理的下一個token延遲Ny528資訊網——每日最新資訊28at.com

終結閉源霸權 Meta Llama 3.1橫空出世!Intel第一時間適配并提供加速在使用Intel銳炫A770 16GB限量版顯卡的AI PC上,Llama 3.1推理的下一個token延遲Ny528資訊網——每日最新資訊28at.com

終結閉源霸權 Meta Llama 3.1橫空出世!Intel第一時間適配并提供加速基于Llama 3.1的端到端RAG流水線,由Intel Gaudi 2加速器和至強處理器提供支持Ny528資訊網——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-17-103393-0.html終結閉源霸權 Meta Llama 3.1橫空出世!Intel第一時間適配并提供加速

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 2024年《財富》中國500強排行榜揭曉:國家電網位居榜首 京東民企第一

下一篇: 精致女生坐高鐵 帶貨網紅大團建

標簽:
  • 熱門焦點
  • CSS單標簽實現轉轉logo

    轉轉品牌升級后更新了全新的Logo,今天我們用純CSS來實現轉轉的新Logo,為了有一定的挑戰性,這里我們只使用一個標簽實現,將最大化的使用CSS能力完成Logo的繪制與動畫效果。新logo
  • 學習JavaScript的10個理由...

    作者 | Simplilearn編譯 | 王瑞平當你決心學習一門語言的時候,很難選擇到底應該學習哪一門,常用的語言有Python、Java、JavaScript、C/CPP、PHP、Swift、C#、Ruby、Objective-
  • 19個 JavaScript 單行代碼技巧,讓你看起來像個專業人士

    今天這篇文章跟大家分享18個JS單行代碼,你只需花幾分鐘時間,即可幫助您了解一些您可能不知道的 JS 知識,如果您已經知道了,就當作復習一下,古人云,溫故而知新嘛。現在,我們就開始今
  • .NET 程序的 GDI 句柄泄露的再反思

    一、背景1. 講故事上個月我寫過一篇 如何洞察 C# 程序的 GDI 句柄泄露 文章,當時用的是 GDIView + WinDbg 把問題搞定,前者用來定位泄露資源,后者用來定位泄露代碼,后面有朋友反
  • 2天漲粉255萬,又一賽道在抖音爆火

    來源:運營研究社作者 | 張知白編輯 | 楊佩汶設計 | 晏談夢潔這個暑期,旅游賽道徹底火了:有的「地方」火了——貴州村超旅游收入 1 個月超過 12 億;有的「博主」火了&m
  • ESG的面子與里子

    來源 | 光子星球撰文 | 吳坤諺編輯 | 吳先之三伏大幕拉起,各地高溫預警不絕,但處于厄爾尼諾大“烤”之下的除了眾生,還有各大企業發布的ESG報告。ESG是“環境保
  • OPPO、vivo、小米等國內廠商Q2在印度智能手機市場份額依舊高達55%

    7月20日消息,據外媒報道,研究機構的報告顯示,在全球智能手機出貨量同比仍在下滑的大背景下,印度這一有潛力的市場也未能幸免,出貨量同比也有下滑,多家廠
  • 華為HarmonyOS 4.0將于8月4日發布 或搭載AI大模型技術

    華為宣布HarmonyOS4.0將于8月4日正式發布。此前,華為已經針對開發者公布了HarmonyOS4.0,以便于開發者提前進行適配,也因此被曝光出了一些新系統的特性
  • iQOO 11S或7月上市:搭載“雞血版”驍龍8Gen2 史上最強5G Soc

    去年底,iQOO推出了“電競旗艦”iQOO 11系列,作為一款性能強機,iQOO 11不僅全球首發2K 144Hz E6全感屏,搭載了第二代驍龍8平臺及144Hz電競屏,同時在快充
Top 主站蜘蛛池模板: 文水县| 保亭| 泗洪县| 金湖县| 奈曼旗| 大兴区| 岚皋县| 资溪县| 信阳市| 肃宁县| 华坪县| 孟连| 灵璧县| 堆龙德庆县| 岳阳县| 淮南市| 遵义县| 海安县| 固安县| 呼和浩特市| 星座| 左权县| 蓬莱市| 偃师市| 连江县| 鹤壁市| 马公市| 民丰县| 惠东县| 黄龙县| 通化市| 温泉县| 张家口市| 邓州市| 洪泽县| 曲松县| 阳原县| 富川| 多伦县| 芦溪县| 镇巴县|