石頭智能洗地機A10 Plus體驗：雙向自清潔治好了我的懶癌
一、前言和介紹專為家庭請假懶人而生的石頭科技在近日又帶來了自己的全新旗艦新品，石頭智能洗地機A10 Plus。從這個產品名上就不難看出，這次石頭推出的并不是常見的掃地機器
快科技9月5日消息，近日，第五代英特爾至強處理器，以優秀的表現通過了中國電子技術標準化研究院組織的人工智能服務器系統性能測試（AISBench）。
借此，英特爾也成為首批通過AISBench大語言模型（LLM）推理性能測試的企業。
在AISBench 2.0測試工具的評估下，第五代英特爾至強處理器在ChatGLM V2-6B（60億參數）和Llama2-13B（130億參數）兩個模型上均展現了卓越的性能，能夠滿足輕量級大語言模型的實時推理要求。
測試結果顯示，在60億參數的ChatGLM V2模型通用推理中，當輸入輸出序列為256時，處理器可達每秒2493 token的性能；當輸入輸出序列為2048時，性能為每秒926 token。
在130億參數的Llama2模型通用推理中，當輸入輸出為256時，性能為每秒513 token；當輸入輸出序列為2048時，性能為每秒132 token。
AISBench 2.0的測試結果，驗證了英特爾至強在運行輕量級大語言模型時展現出的優異推理性能。
也使得客戶可以通過基于至強的服務器，構建一個通用AI系統進行數據預處理、模型推理和部署，從而獲得兼具AI性能、效率、準確性和可擴展性的組合。
同時還彰顯了英特爾至強可以為企業提供“開箱即用”的功能，即可以在通用系統上部署一部分AI工作負載，從而為客戶帶來更佳的總體擁有成本（TCO）優勢。
本文鏈接：http://www.www897cc.com/showinfo-24-111899-0.htmlIntel首批通過AISBench大模型性能測試！5代至強可達每秒2493 token
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號