6 月 26 日消息,Etched 公司宣布完成 1.2 億美元(備注:當前約 8.73 億元人民幣) A 輪融資,將用于開發(fā)和銷售全球首款 Transformer 專用集成電路(ASIC)芯片 Sohu。
查詢公開資料,Etched 公司由兩名哈佛大學輟學生加文?烏伯蒂(Gavin Uberti)和克里斯?朱(Chris Zhu)創(chuàng)立,成立時間不到 2 年。
Sohu 芯片最大的亮點在于直接把 Transformer 架構蝕刻到芯片中,烏伯蒂稱 Sohu 采用臺積電的 4 納米工藝制造,推理性能大大優(yōu)于 GPU 和其他通用人工智能芯片,同時能耗更低。
在 Llama 70B 吞吐量中,Sohu 每秒可處理超過 50萬個 tokens,讓用戶可以構建 GPU 無法實現的產品。
Sohu 能夠實現實時語音代理、毫秒級處理數千字文本、更強大的代碼樹搜索、并行比較數百個響應、多播推測解碼以及實時生成新內容等功能,為未來萬億級參數模型的運行提供了可能。
附上官網鏈接,感興趣的用戶可以深入閱讀。
本文鏈接:http://www.www897cc.com/showinfo-45-4837-0.html全球首款 Transformer 專用 AI 芯片 Sohu 登場:每秒可處理 50 萬個 tokens,比英偉達 H100 快 20 倍
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com
上一篇: 十六部門:推動人工智能技術在制定個性化營養(yǎng)、運動干預方案中的應用
下一篇: 振興鄉(xiāng)村發(fā)展 助力青少年教育 中國三星連續(xù)十一年蟬聯(lián)企業(yè)社會責任榜外企第一