影音體驗(yàn)是真的強(qiáng) 簡(jiǎn)單聊聊iQOO Pad
大公司的好處就是產(chǎn)品線豐富，非常細(xì)分化的東西也能給你做出來(lái)，例如早先我們看到了新的vivo Pad2，之后我們又在iQOO Neo8 Pro的發(fā)布會(huì)上看到了iQOO的首款平板產(chǎn)品iQOO Pad。雖
來(lái)源：內(nèi)容由半導(dǎo)體行業(yè)觀察（ID：icbank）綜合自siliconangle等，謝謝。
一家名為D-Matrix，專注于為數(shù)據(jù)中心設(shè)計(jì)和構(gòu)建高效芯片和生成人工智能計(jì)算平臺(tái)的初創(chuàng)公司今天宣布，在由新加坡全球投資公司淡馬錫牽頭的超額認(rèn)購(gòu) B 輪融資中籌集了 1.1 億美元。
據(jù)報(bào)告，現(xiàn)有的投資者 Playground Global、微軟公司的 M12 風(fēng)險(xiǎn)基金、Nautilus Venture Partners 和 Entrada Ventures 也參與了本輪融資，新投資者包括 Industry Ventures、Ericsson Ventures、Marlan Holdings、Mirae Asset 和 Samsung Ventures。
D-Matrix在 2022 年 4 月的一輪融資中獲得了 4400 萬(wàn)美元，由 M12 和韓國(guó)半導(dǎo)體制造商 SK 海力士公司領(lǐng)投。該輪融資使該公司的融資總額達(dá)到 1.54 億美元。
M12 的 Michael Stewart 表示：“我們正在進(jìn)入生產(chǎn)階段，LLM 推理總擁有成本將成為決定企業(yè)在其服務(wù)和應(yīng)用程序中使用先進(jìn)人工智能的程度、地點(diǎn)和時(shí)間的關(guān)鍵因素。”
Sheth 表示，D-Matrix 計(jì)劃將新資金投資于其Corsair 平臺(tái)的招募和商業(yè)化，該平臺(tái)使用 DIMC 架構(gòu)和小芯片，以降低推理成本。Corsair 計(jì)劃于 2024 年推出，是一款 PCI 外形卡，可與機(jī)器學(xué)習(xí)工具鏈和用于生產(chǎn)的服務(wù)器軟件配合使用，這些軟件主要由廣泛采用的開源軟件構(gòu)建。只需“按一下按鈕”，人工智能模型就可以快速導(dǎo)入卡中，無(wú)需重新訓(xùn)練。
Sheth 表示：“由于推理成本高昂，目前生成式人工智能的前景還無(wú)法實(shí)現(xiàn)，而通過(guò)今天的公告和我們的資金注入，我們將能夠比該領(lǐng)域的其他任何人更快地將商業(yè)上可行的解決方案推向市場(chǎng)。”
此次融資公告是在上個(gè)月推出 d-Matrix Jayhawk II 小芯片之后發(fā)布的，該小芯片采用增強(qiáng)型 DIMC 架構(gòu)。d-Matrix 表示，通過(guò)這個(gè)基于小芯片的新平臺(tái)，其客戶可以獲得比圖形處理單元高 10 到 20 倍的效率，并節(jié)省 10 到 20 倍的成本。
雖然令人興奮的說(shuō)法，但我們更希望 d-Matrix 使用行業(yè)標(biāo)準(zhǔn)的 MLPerf 同行評(píng)審基準(zhǔn)來(lái)證實(shí)這些說(shuō)法，希望這會(huì)在適當(dāng)?shù)臅r(shí)候出現(xiàn)。
d-Matrix，什么來(lái)頭？
資料顯示，d-Matrix 是一家總部位于硅谷的公司，為生成式人工智能和大型語(yǔ)言模型生產(chǎn)計(jì)算平臺(tái)（芯片）。其旗艦產(chǎn)品是 Corsair，這是一款用于人工智能推理的內(nèi)存計(jì)算引擎。該設(shè)計(jì)能夠?qū)⑷斯ぶ悄苣Ｐ屯耆４嬖趦?nèi)存中，這一點(diǎn)很新穎，并且建立在 d-Matrix 之前的 Nighthawk、Jayhawk-I 和 Jayhawk II 小芯片的基礎(chǔ)上。
d-Matrix 之所以脫穎而出，是因?yàn)樾酒圃祛I(lǐng)域競(jìng)爭(zhēng)激烈，而且許多小公司在融資方面遇到困難。英偉達(dá)已經(jīng)迫使許多小公司和投資者退出人工智能芯片市場(chǎng)。路透社稱，特別是英偉達(dá)在硬件和軟件方面的主導(dǎo)地位使得其他公司難以擠入。
d-Matrix之前曾經(jīng)發(fā)布新聞稿表示，隨著大模型推動(dòng)人工智能推理需求不斷擴(kuò)大，而內(nèi)存和能源需求達(dá)到閾值限制，d-Matrix 正在將首款基于 DIMC 的推理計(jì)算平臺(tái)推向市場(chǎng)。d-Matrix 通過(guò)一個(gè)可擴(kuò)展的平臺(tái)改變了復(fù)雜變壓器和生成式人工智能的經(jīng)濟(jì)性，該平臺(tái)旨在處理推理人工智能的海量數(shù)據(jù)和電力需求，使高耗能的數(shù)據(jù)中心更加高效。
d-Matrix 的這款新穎的 AI 計(jì)算平臺(tái)巧妙地結(jié)合了智能 ML 工具和集成軟件架構(gòu)，利用樂高塊網(wǎng)格形式的小芯片，從而能夠?qū)⒍鄠€(gè)編程引擎集成在一個(gè)通用包中。
將 d-Matrix 技術(shù)與 Project Bonsai （微軟低代碼強(qiáng)化學(xué)習(xí)平臺(tái) Project Bonsai ）相結(jié)合，可以為 DIMC 平臺(tái)高效創(chuàng)建編譯器。Project Bonsai 加速了編譯器堆棧中訓(xùn)練有素的 RL 代理的快速原型設(shè)計(jì)、測(cè)試和部署，以充分利用 d-Matrix 的低功耗 AI 推理技術(shù)，該技術(shù)可提供比舊架構(gòu)高出十倍的能效。
d-Matrix 聯(lián)合創(chuàng)始人兼首席技術(shù)官 Sudeep Bhoja 表示：“d-Matrix 構(gòu)建了世界上最高效的大規(guī)模 AI 推理計(jì)算平臺(tái)。” “Project Bonsai 吸引我們的原因是其產(chǎn)品至上的功能和易用性。Microsoft 的獨(dú)特產(chǎn)品是圍繞機(jī)器教學(xué)和 Inkling 語(yǔ)言構(gòu)建的，這使得 RL 構(gòu)造可以完全解釋。”
基于 RL 的編譯器預(yù)計(jì)將成為 d-Matrix 的第一代 DIMC 產(chǎn)品 CORSAIR 的關(guān)鍵差異化因素，該產(chǎn)品預(yù)計(jì)將于 2023 年末推出。
“我們一直在共同開發(fā)基于強(qiáng)化學(xué)習(xí)的編譯器，”微軟Project Bonsai團(tuán)隊(duì)首席應(yīng)用人工智能工程師 Kingsuk Maitra 說(shuō)道。“我們從一開始就重視產(chǎn)品思維。包括指令集架構(gòu)的實(shí)施例已在兩個(gè) d-Matrix 測(cè)試芯片 NightHawk 和 JayHawk 上經(jīng)過(guò)審查和驗(yàn)證，并嵌入到 RL 訓(xùn)練環(huán)境中。Project Bonsai 的低代碼屬性使早期開發(fā)工作變得容易，并且能夠集成統(tǒng)計(jì)控制參數(shù)并使其他現(xiàn)實(shí)生活芯片設(shè)計(jì)約束的集成更簡(jiǎn)單，迄今為止取得了非常有希望的結(jié)果。”
d-Matrix 聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Sid Sheth 在公司新一輪融資新聞稿中表示：“人工智能計(jì)算目前的發(fā)展軌跡是不可持續(xù)的，因?yàn)檫\(yùn)行人工智能推理的總擁有成本正在迅速上升。” “d-Matrix 團(tuán)隊(duì)正在通過(guò)專為L(zhǎng)LM構(gòu)建的計(jì)算解決方案改變部署人工智能推理的成本經(jīng)濟(jì)，這一輪融資驗(yàn)證了我們?cè)谛袠I(yè)中的地位。”
生成式人工智能大型語(yǔ)言模型，例如 Meta Platform Inc. 的 Llama 2 和 OpenAI LP 的 ChatGPT，通過(guò)接受大量文本數(shù)據(jù)的訓(xùn)練來(lái)工作，以便它們能夠理解并用類似人類的語(yǔ)音進(jìn)行“交談”。訓(xùn)練需要大量的計(jì)算能力，但在部署前只需要進(jìn)行一次。部署人工智能后，推理用于回答問(wèn)題、總結(jié)文檔等。
“生成式人工智能將永遠(yuǎn)改變?nèi)藗兒凸緞?chuàng)造、工作以及與技術(shù)互動(dòng)的方式，”該公司首席執(zhí)行官 Sid Sheth 告訴 SiliconANGLE。“隨著 ChatGPT 的發(fā)布，這一認(rèn)識(shí)在‘大爆炸’時(shí)刻得到了具體體現(xiàn)。雖然 ChatGPT 等生成式人工智能模型的性能令人驚嘆，但成本卻令人震驚。”
D-Matrix 生產(chǎn)具有專用“小芯片”架構(gòu)的芯片，該架構(gòu)使用數(shù)字內(nèi)存計(jì)算（DIMC）。這將完全可編程的存儲(chǔ)器直接帶入芯片，以減少推理處理的延遲，使其更快、更高效、更便宜。
使用小芯片，可以使用多個(gè)小芯片來(lái)構(gòu)建更大、模塊化和可擴(kuò)展的集成電路。這兩個(gè)流程相結(jié)合，使 d-Matrix 能夠生產(chǎn)出各種平臺(tái)，這些平臺(tái)可以擴(kuò)展用于生成 AI 推理任務(wù)，并提高性能和效率。
然而，我們不知道 Corsair 在較大型號(hào)上的性能如何，這些型號(hào)會(huì)溢出芯片上相對(duì)較小的 2GB SRAM。同樣，當(dāng)前可用的 LLM 推理解決方案使用 NVIDIA NVLink 4.0，速率高達(dá)每秒 900 GB (GB/s)。這是 PCIe Gen 5 帶寬的 7 倍多，PCIe Gen 5 是托管 Corsair 加速器的服務(wù)器中使用的互連技術(shù)。我們的預(yù)感是，d-Matrix 將專注于適合的較小模型，而這些較小模型將成為企業(yè)采用生成式 AI 的驅(qū)動(dòng)力。
Cambrian AI 分析師 Karl Freund 表示，盡管 d-Matrix 是 AI 計(jì)算和推理市場(chǎng)的初創(chuàng)公司，但仍與 AI 硬件/軟件巨頭 Nvidia 競(jìng)爭(zhēng)。
雖然 Nvidia 在人工智能芯片市場(chǎng)上處于領(lǐng)先地位，但 D-Matrix 提供了一個(gè)內(nèi)存計(jì)算平臺(tái)，F(xiàn)reund 表示該平臺(tái)應(yīng)該速度快且成本低得多，因?yàn)樗鼪]有高帶寬內(nèi)存，而是使用靜態(tài)隨機(jī)存取內(nèi)存。
“只有少數(shù)公司真正有機(jī)會(huì)與英偉達(dá)競(jìng)爭(zhēng)，”Freund 說(shuō)。“D-Matrix 就是其中之一。他們使用不同的技術(shù)、不同的架構(gòu)，似乎可以產(chǎn)生更好的結(jié)果。”
正是這種相信 d-Matrix 將比Cerebras 等其他初創(chuàng)公司持續(xù)更長(zhǎng)時(shí)間的信念，吸引了早期投資公司 Playground Global 加入 d-Matrix。
該公司于 2019 年開始擔(dān)任 d-Matrix 的顧問(wèn)，并在該供應(yīng)商的第一輪融資期間成為投資者。
風(fēng)險(xiǎn)合伙人 Sasha Ostojic 表示，與市場(chǎng)上眾多初創(chuàng)公司相比，d-Matrix 因其團(tuán)隊(duì)、技術(shù)以及其試圖解決的不斷增長(zhǎng)的人工智能市場(chǎng)而脫穎而出。
“我們?cè)?D-Matrix 中看到的是，他們很早就把賭注押在了生成式 AI 和法學(xué)碩士上，”O(jiān)stojic 說(shuō)。“他們打賭這將成為未來(lái)的主要工作負(fù)載，他們是對(duì)的。世界其他地方基本上都趕上了這種洞察力。”
此外，F(xiàn)reund 表示，市場(chǎng)可能會(huì)轉(zhuǎn)向 d-Matrix 的低成本推理策略。
“現(xiàn)在推理成本太高了，”他說(shuō)。
“這需要八個(gè)H100 或 A100 GPU才能完成推理過(guò)程，”他繼續(xù)說(shuō)道，指的是 Nvidia AI 芯片。“每次你回答輸入一個(gè)查詢時(shí)，都需要八個(gè) GPU 來(lái)回答。這是不可持續(xù)的。”
d-Matrix 等公司將通過(guò)內(nèi)存計(jì)算等技術(shù)幫助降低成本。Freund表示，甚至英偉達(dá)也可能很快發(fā)布價(jià)格更低的推理處理產(chǎn)品。
Freund 表示，d-Matrix 未來(lái)面臨的挑戰(zhàn)是如何在 Jayhawk II 開發(fā)平臺(tái)上啟動(dòng)并運(yùn)行其生成式 AI 模型。“客戶想要更快、成本更低的解決方案，但他們不想經(jīng)歷導(dǎo)入和優(yōu)化代碼和模型的痛苦和痛苦，”他說(shuō)。
Ostojic 表示，對(duì)于 Playground Global 來(lái)說(shuō)，執(zhí)行是 d-Matrix 下一步要解決的問(wèn)題。
他說(shuō)：“現(xiàn)在剩下的就是明年將生產(chǎn)芯片推向市場(chǎng)，并在數(shù)據(jù)中心和超大規(guī)模企業(yè)中部署企業(yè)級(jí)、無(wú)摩擦的軟件堆棧。”據(jù)供應(yīng)商稱，D-Matrix 的小芯片預(yù)計(jì)將于 2024 年上市。
*免責(zé)聲明：本文由作者原創(chuàng)。文章內(nèi)容系作者個(gè)人觀點(diǎn)，半導(dǎo)體行業(yè)觀察轉(zhuǎn)載僅為了傳達(dá)一種不同的觀點(diǎn)，不代表半導(dǎo)體行業(yè)觀察對(duì)該觀點(diǎn)贊同或支持，如果有任何異議，歡迎聯(lián)系半導(dǎo)體行業(yè)觀察。
今天是《半導(dǎo)體行業(yè)觀察》為您分享的第3516期內(nèi)容，歡迎關(guān)注。
推薦閱讀
★氮化鎵，再起風(fēng)云
★MEMS最新榜單：兩極分化，未來(lái)可期
★EUV光刻的新“救星”
半導(dǎo)體行業(yè)觀察
『半導(dǎo)體第一垂直媒體』
實(shí)時(shí) 專業(yè) 原創(chuàng) 深度
識(shí)別二維碼，回復(fù)下方關(guān)鍵詞，閱讀更多
晶圓｜集成電路｜設(shè)備｜汽車芯片｜存儲(chǔ)｜臺(tái)積電｜AI｜封裝
回復(fù) 投稿，看《如何成為“半導(dǎo)體行業(yè)觀察”的一員 》
回復(fù) 搜索，還能輕松找到其他你感興趣的文章！
本文鏈接：http://www.www897cc.com/showinfo-27-8336-0.html微軟投資了一家AI芯片公司
聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com
上一篇： 芯片行業(yè)，怎么辦？
下一篇： EUV光刻膠，如何發(fā)力?
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請(qǐng)聯(lián)系：2376512515@qq.com 津ICP備18001702號(hào)
津公網(wǎng)安備 12010102000574號(hào)