AI模盒“深目”,圖片來源:云天勵飛提供
伴隨著大模型之戰轉入商業化落地應用的下半場,如何實現更低成本的進行部署成為市場關注的焦點。深圳AI上市企業云天勵飛(688343.SH)開始在這個方向做出嘗試和探索,希望通過推出低配版的AI盒子,打響大模型“平民化”的第一槍。
3月28日,云天勵飛舉辦AI大模型產品發布會,正式發布“深目”AI模盒。據介紹,該產品售價在千元級,用單手就能托起,搭載了云天勵飛自研的DeepEdge10 Max芯片以及多模態大模型“云天天書”,單盒子具備48 TOPS峰值算力。
云天勵飛試圖通過這一產品解決大模型在場景落地最后一公里的問題,幫助更多中小企業客戶在端側部署大模型。
對于云天勵飛而言,這也是加速商業化之舉。據云天勵飛3月28日發布的業績快報,2023年實現營業收入5.35億元,同比下降2.14%;歸母凈虧損3.9億元,較2022年4.47億元的虧損有所收窄。
對于盈利預期,云天勵飛董秘鄧浩然在會后的媒體交流環節解釋稱,去年公司曾披露限制性股票激勵計劃,為管理層設定了2024年、2025年實現對2022年60%及90%業績增長的目標,公司對于完成這一要求有比較大的信心。
“我相信,隨著我們運營業務的加強,以及標準化AI產品的推進,整體盈利時間指日可待。”鄧浩然表示。
推理應用才是目的
相比燧原科技云燧i20及寒武紀MLU370-X4等其他廠商旗下推理卡256 TOPS算力,“深目”AI模盒48 TOPS的峰值算力有著較大差距。但算力上的壓縮顯著降低了成本,云天勵飛認為這是一大優勢。
在發布會上,云天勵飛董事長、CEO陳寧分析指出,從ChatGPT到Sora,從文生文、文生圖像到文生視頻,大模型的能力在不斷進化,引發新一輪的AI變革。在此基礎上,陳寧預判,未來3年內,全球80%的企業都將使用大模型。
但問題是,目前大模型一次訓練成本在千萬級,主流的訓推一體機價格也普遍在百萬元上下,絕大多數企業根本無法承擔這樣高昂的成本。
因此,只有降低成本,才能讓大模型“平民化”,成為人人都可用的產品——這正是云天勵飛打造“深目”AI模盒這類邊緣端承載的小模型產品的原因。
在接受時代財經等媒體采訪時,陳寧坦言,市場對于大模型訓練的關注程度更高,GPU一卡難求,國內也掀起了算力建設的熱潮。但在此之外,市場對于大模型推理部署的關注程度偏低。
目前,AI芯片可分為兩大類:訓練芯片和推理芯片。前者更高端,以英偉達A100、H100,以及華為昇騰的910B芯片為代表,用于構建神經網絡算力模型,更為注重絕對的計算能力。而后者,主要是利用訓練好的神經網絡模型進行推理預測,更強調實用,對算力的要求相對低一些,更關注低延時、低功耗。
在陳寧看來,大模型算法的訓練不是目的,千行百業的推理應用才是最終目的。因此,隨著大模型逐漸開始廣泛落地應用,推理芯片將會越來越重要。
“未來,無論是機器人、無人機、無人車、還是各類智能設備如AIPC、AI手機等,都需要一顆或幾顆具備神經網絡處理器的推理芯片,并可能因此誕生一個萬億顆芯片的巨大藍海市場。”陳寧說。
更重要的是,在這個市場上,還沒有誕生英偉達這樣的壟斷性的巨頭。
“中國擁有豐富的應用場景,推理芯片要落到行業里解決各個場景的問題,這是很大的機會。”陳寧表示。
AI必須走向產品化
去年,云天勵飛已經發布了國內首創14nm大模型推理芯片DeepEdge10 MAX,該芯片內含國產RISC-V核,足以支持大模型推理部署。
而為了把復雜的技術通過簡單的產品提供給用戶,降低用戶的學習成本,快速訓練出自己需要的算法,云天勵飛在上述芯片的基礎上,結合自研的多模態大模型“云天天書”進行封裝,并做出大量優化調整,最終打造出AI模盒“深目”。
與此同時,云天勵飛還以天書大模型為底座,與生態合作伙伴完成預訓練場景算法,再將預訓練算法以算法商城的形式提供給中小企業用戶,讓它們根據自身場景需求,在邊緣端完成算法微調。
此外,由于大模型具備泛化和學習的能力,客戶部署算法后,大模型還能夠不斷根據現實應用場景情況,在線學習、優化算法,不斷提升算法精度。
據云天勵飛副總裁羅憶透露,“深目”可實現算法場景覆蓋超過90%、算法精度超過90%,使用成本降低90%。
這背后,是云天勵飛試圖通過打造更為標準化的產品,讓AI逐漸走入產品化的階段。
在陳寧看來,AI商業化發展有三個階段:AI方案化、AI運營化、AI產品化。在AI商業化的初期,AI企業主要通過項目制滿足不同垂直領域客戶需求,以定制化的方案解決問題,其弊端在于普遍投入產出比不高,難以實現大規模盈利。
但AI企業必須在打磨行業標桿項目的過程中,不斷積累行業認知和數據,增強AI技術實力,并形成具備越來越強的泛化能力AI平臺,企業也得以開啟AI運營業務。“最終,所有的技術都需要通過物理實體賦能,因此AI必須走向產品化。”陳寧分析到。
為此,云天勵飛已經開始做出諸多嘗試。
除“深目”外,去年云天勵飛還曾與華為昇騰聯合推出更為高端的天舟大模型訓推一體機,并通過投資、收購的方式,進軍智能穿戴和機器人等硬件領域,啟動了相關技術產品市場探索。
云天勵飛副總裁鄭文先透露,未來,公司將從AI方案為主,逐漸過渡到AI方案、AI運營和AI產品三駕馬車并駕齊驅的階段,遠期目標是實現4:3:3的營收構成。后兩者將會成為主要的收入模式和來源,未來占到收入的60%。
本文鏈接:http://www.www897cc.com/showinfo-16-80577-0.html大模型應用門檻降至千元,小企業也能上車?云天勵飛陳寧:AI必須走向產品化
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com