快科技6月26日消息,據媒體報道,美國新興的芯片創業公司Etched發布其首款AI芯片——Sohu。
這款芯片在運行大型模型時展現出了驚人的性能,其速度超越了行業巨頭英偉達的H100高達20倍,即便是與今年3月才面世的頂尖芯片B200相比,Sohu也展現出超過10倍的優越性能。
Sohu芯片的大突破在于它直接將Transformer架構嵌入芯片內部。據Etched公司負責人Uberti透露,Sohu采用了臺積電的先進4納米工藝制造,不僅在推理性能上遠超GPU和其他通用人工智能芯片,更在能耗控制上達到了新的高度。
對于Transformer技術而言,Sohu無疑是目前市場上快的芯片,其性能與其他產品之間存在顯著的量級差異。值得一提的是,當前主流的AI產品如ChatGPT、Claude、Gemini和Sora等,均基于Transformer架構驅動。
作為世界上首款Transformer ASIC(應用型專用集成電路)芯片,Sohu的集成應用更是令人矚目。據測試,一臺配備8塊Sohu芯片的服務器,其性能足以媲美160塊H100 GPU的集群。
具體而言,集成8塊Sohu芯片的服務器每秒能夠處理高達50萬的Llama 7B tokens,這一數據在業界堪稱前所未有。
而打造這款杰出芯片的Etched公司,位于美國加州的庫比蒂諾,盡管成立僅兩年,團隊規模也僅有35人,但其創始人——哈佛輟學生Gavin Uberti(前OctoML和前Xnor.ai員工)和Chris Zhu,與資深技術專家Robert Wachen和前賽普拉斯半導體公司首席技術官Mark Ross共同領導,已經成功研發出這款專為大模型AI設計的芯片,展現了其強大的技術實力和無限潛力。
本文鏈接:http://www.www897cc.com/showinfo-24-96651-0.html全球首款Transformer專用AI芯片Sohu發布:比英偉達H100快20倍
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com
上一篇: 驍龍X系列AI PC實測:超級省電