當(dāng)前位置：首頁 > 科技 > 網(wǎng)絡(luò)

全球首個！中國電信發(fā)布單體稠密萬億參數(shù)語義模型Tele-FLM-1T

來源：責(zé)編：時間：2024-06-19 15:35:35 187觀看

導(dǎo)讀快科技6月19日消息，據(jù)“中國電信”官微發(fā)文，中國電信人工智能研究院（TeleAI）聯(lián)合北京智源人工智能研究院發(fā)布全球首個單體稠密萬億參數(shù)語義模型Tele-FLM-1T，成為國內(nèi)首批發(fā)布稠密萬億參數(shù)大模型的機(jī)構(gòu)

快科技6月19日消息，據(jù)“中國電信”官微發(fā)文，中國電信人工智能研究院（TeleAI）聯(lián)合北京智源人工智能研究院發(fā)布全球首個單體稠密萬億參數(shù)語義模型Tele-FLM-1T，成為國內(nèi)首批發(fā)布稠密萬億參數(shù)大模型的機(jī)構(gòu)。

面對大模型訓(xùn)練過程中算力消耗巨大的挑戰(zhàn)，TeleAI與智源通過深度研發(fā)，結(jié)合模型生長和損失預(yù)測等關(guān)鍵技術(shù)，成功推出了Tele-FLM系列模型。這一系列模型在算力資源的使用上，僅消耗了業(yè)界普通訓(xùn)練方案的9%，展現(xiàn)出極高的算力能效。

通過使用112臺A800服務(wù)器，TeleAI團(tuán)隊在短短4個月內(nèi)完成了3個模型總計2.3T tokens的訓(xùn)練，全程無需任何調(diào)整和重試，充分證明了模型訓(xùn)練的穩(wěn)定性和收斂性。

值得一提的是，Tele-FLM-1T版本即將開源，此舉旨在為社區(qū)提供訓(xùn)練萬億稠密模型的技術(shù)參考，有效解決萬億模型訓(xùn)練收斂難等問題，進(jìn)一步推動大模型技術(shù)的進(jìn)步。

TeleAI不僅在技術(shù)創(chuàng)新上不斷突破，還積極通過開源方式推動大模型技術(shù)的普及和國產(chǎn)化進(jìn)程。他們接連開源了7B、12B、52B參數(shù)規(guī)模的大模型，這些模型在開源社區(qū)中引發(fā)了廣泛討論和使用，開源模型下載量已超過萬次，吸引了超過40萬用戶。

全球首個！中國電信發(fā)布單體稠密萬億參數(shù)語義模型Tele-FLM-1T

本文鏈接：http://www.www897cc.com/showinfo-17-94771-0.html全球首個！中國電信發(fā)布單體稠密萬億參數(shù)語義模型Tele-FLM-1T

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com

上一篇：胖東來爆改后的永輝超市開業(yè)了公司回應(yīng)股價大漲

下一篇：用戶體驗升級！88VIP會員天貓618同比增長65% 規(guī)模創(chuàng)新高

標(biāo)簽：

熱門焦點

三分鐘白話RocketMQ系列—— 如何發(fā)送消息

我們知道RocketMQ主要分為消息生產(chǎn)、存儲（消息堆積）、消費(fèi) 三大塊領(lǐng)域。那接下來，我們白話一下，RocketMQ是如何發(fā)送消息的，揭秘消息生產(chǎn)全過程。注意，如果白話中不小心提到相關(guān)代
使用AIGC工具提升安全工作效率

在日常工作中，安全人員可能會涉及各種各樣的安全任務(wù)，包括但不限于：開發(fā)某些安全工具的插件，滿足自己特定的安全需求；自定義github搜索工具，快速查找所需的安全資料、漏洞poc、exp
共享單車的故事講到哪了？

來源丨?？素斀?jīng)與共享充電寶相差不多，共享單車已很久沒有被國內(nèi)熱點新聞關(guān)照到了。除了一再漲價和用戶直呼用不起了。近日多家媒體再發(fā)報道稱，成都、天津、鄭州等地多個共享單
騰訊VS網(wǎng)易，最卷游戲暑期檔，誰能笑到最后？

作者：無銹缽來源：財經(jīng)無忌7月16日晚，上海1862時尚藝術(shù)中心。伴隨著幻象的精準(zhǔn)命中，碩大的熒幕之上，比分被定格在了14：12，被寄予厚望的EDG戰(zhàn)隊以絕對的優(yōu)勢戰(zhàn)勝了BLG戰(zhàn)隊，拿下了總決
阿里瓴羊One推出背后，零售企業(yè)迎數(shù)字化新解

作者:劉曠近年來隨著數(shù)字經(jīng)濟(jì)的高速發(fā)展，各式各樣的SaaS應(yīng)用服務(wù)更是層出不窮，但本質(zhì)上SaaS大多局限于單一業(yè)務(wù)流層面，對用戶核心關(guān)切的增長問題等則沒有提供更好的解法。在Saa
小米汽車電池信息疑似曝光：容量101kWh，支持800V高壓快充

7月14日消息，今日一名博主在社交媒體發(fā)布了一張疑似小米汽車電池信息的照片，顯示該電池包正是寧德時代麒麟電池，容量為101kWh，電壓為726.7V，可以預(yù)測小
華為和江淮汽車合作開發(fā)百萬元問界MPV？雙方回應(yīng)來了

8月1日消息，郭明錤今天在社交平臺發(fā)文稱，華為正在和江淮汽車合作，開發(fā)售價在100萬元的問界MPV，預(yù)計在2024年第2季度量產(chǎn)，銷量目標(biāo)為上市首年交付5萬輛。
自研Exynos回歸！三星Galaxy S24系列將提供Exynos和驍龍雙版本

年初，全新的三星Galaxy S23系列發(fā)布，包含Galaxy S23、Galaxy S23+和Galaxy S23 Ultra三個版本，全系搭載超頻版驍龍8 Gen 2，雖同樣采用臺積電4nm工藝制
iQOO 11S新品發(fā)布會

iQOO將在7月4日19:00舉行新品發(fā)布會，推出杭州亞運(yùn)會電競賽事官方用機(jī)iQOO 11S。

日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

全球首個！中國電信發(fā)布單體稠密萬億參數(shù)語義模型Tele-FLM-1T

三分鐘白話RocketMQ系列—— 如何發(fā)送消息

使用AIGC工具提升安全工作效率

共享單車的故事講到哪了？

騰訊VS網(wǎng)易，最卷游戲暑期檔，誰能笑到最后？

阿里瓴羊One推出背后，零售企業(yè)迎數(shù)字化新解

小米汽車電池信息疑似曝光：容量101kWh，支持800V高壓快充

華為和江淮汽車合作開發(fā)百萬元問界MPV？雙方回應(yīng)來了

自研Exynos回歸！三星Galaxy S24系列將提供Exynos和驍龍雙版本

iQOO 11S新品發(fā)布會

最新推薦

猜你喜歡

熱門推薦

相關(guān)資訊