日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 元宇宙 > AI

360智腦7B大模型開源,長文本處理能力達50萬字

來源: 責編: 時間:2024-04-13 16:08:24 112觀看
導讀4月13日消息,360公司近日在GitHub上公開了其360智腦7B(70億參數模型),這一大模型是基于3.4萬億Tokens的語料庫進行訓練的,主要涵蓋了中文、英文和代碼。該模型提供了4K、32K、360K三種不同的文本長度選項,其中360K(大約50

4月13日消息,360公司近日在GitHub上公開了其360智腦7B(70億參數模型),這一大模型是基于3.4萬億Tokens的語料庫進行訓練的,主要涵蓋了中文、英文和代碼。該模型提供了4K、32K、360K三種不同的文本長度選項,其中360K(大約50萬字)被360自稱為當前國內開源模型中最長的文本長度。xvr28資訊網——每日最新資訊28at.com

xvr28資訊網——每日最新資訊28at.com

360在多個主流評測數據集上,包括C-eval、AGIeval、MMLU、CMMLU、HellaSwag、MATH、GSM8K、Humaneval、MBPP、BBH以及LAMBADA,對其模型性能進行了全面驗證。這些評測主要考察了模型的自然語言理解、知識儲備、數學計算和推理、代碼生成以及邏輯推理等能力。結果顯示,360模型在四個評測數據集上取得了領先的排名,整體平均成績位列第三。xvr28資訊網——每日最新資訊28at.com

xvr28資訊網——每日最新資訊28at.com

在專門為大語言模型設計的長文本理解能力評測基準LongBench中,360選擇了與中文長文本應用最為相關的任務進行測試。結果顯示,360Zhinao-7B-Chat-32K模型在中文單文檔問答、多文檔問答、摘要以及Few-shot等任務中取得了平均第一的好成績。xvr28資訊網——每日最新資訊28at.com

同時,在英文大海撈針測試以及360自行構造的中文大海撈針測試中,360Zhinao-7B-Chat-360K模型均達到了98%以上的準確率,顯示出優異的長文本處理能力。xvr28資訊網——每日最新資訊28at.com

除了模型權重之外,360還開源了該模型的微調訓練代碼和推理代碼等全套工具集,使得大模型相關開發者能夠非常方便地使用這些資源,實現“開箱即用”。xvr28資訊網——每日最新資訊28at.com

據ITBEAR科技資訊了解,360公司董事長周鴻祎曾表示,大模型行業在文本長度上有所追求,100萬字將很快成為行業的標配。他透露,360之所以將模型文本長度定為360K,并選擇開源這一能力,是為了讓整個行業能夠共享這一成果,避免重復勞動。周鴻祎自稱是“開源的信徒”,堅信開源能夠推動行業的進步。xvr28資訊網——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-45-5156-0.html360智腦7B大模型開源,長文本處理能力達50萬字

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: OpenAI全球推介會:阿爾特曼保證ChatGPT升級不涉API用戶數據

下一篇: 智能養寵迎來新時代,petgugu全自動貓馬桶重磅上新

標簽:
  • 熱門焦點
  • 沉寂3年,大模型激活小度天貓精靈?

    Tech星球(微信ID:tech618)文 | 何煦陽 沉寂了許久的智能音箱,在今年大模型橫空出世之后,又再次燃起了新的希望。 2月9日,小度宣布將融合文心一言,打造針對智能設備場景的AI模型&ldq
  • 元宇宙是投資中國的第五次重大機遇

    作者為凱思博投資董事長導語:投資邏輯要來自于人性在社會發展過程中的普遍規律,由第一性原理出發找出重大的投資機會來。1978年的改革開放到今天,中國總共經歷了
  • Meta證實Quest 2無法實現全身追蹤,未來將為虛擬化身配備“假腿”

    上周,外媒UploadVR在Quest 2開發者文檔中發現了從未被公布過的“身體追蹤支持”選項,暗示Meta VR頭顯或支持全身追蹤。而在最近的Instagram問答環節中,Meta Reali
  • 從冰墩墩到無聊猿,解秘未來IP爆款的模因

    打造IP,是建設元宇宙的剛需。NFT能直接讓IP的價值變現;虛擬人IP是元宇宙的第一入口,而元宇宙要搭建的,就是一個個品牌IP星球,考驗的是IP世界觀的建設能力。如果說在
  • 頭像類NFTs的統治能持續多久?

    在過去的一兩年里,NFTs在互聯網世界中掀起了一場風暴。今天,當我們想到NFTs時,我們主要想到的是那些充斥著我們的社交媒體屏幕的數字卡通--無聊猿、punks 和介于
  • 新聞業在元宇宙的現狀和未來

    “美聯社有毛病吧,這真的過分了!”,一位媒體編輯在推特中憤怒地表示。這是針對一款視頻NFT的批評言論之一,之后取消了此次銷售,因為該視頻呈現了移民穿越地中海的苦
  • 元宇宙平臺會是上世紀末的互聯網嗎?

    “元宇宙”火了好幾個月,互聯網大廠忙于布局,資本市場熱烈追捧。然而很多人還是看不明白,更多的人覺得這是一場泡沫,一場騙局。一開始接觸這個怪里怪氣的名詞,感覺
  • 冬奧會數字收藏品升溫,市場再現“一墩難求”

    根據公開信息顯示,國際奧委會官方授權的冰墩墩數字盲盒于北京時間2月12日凌晨在nWayPlay平臺發售,總數為500個,每個99美元,每人限購5個。此外,不同的奧運徽章數字藏
  • TX加入的NFT數字收藏品,元宇宙的破圈之路?

    3月7日,澳大利亞 NFT 初創公司 Immutable 在新加坡淡馬錫牽頭的R資中以估值 25 億美元完成2億美元R資,騰訊參投。想必國人最熟知的應該就是TX,作為國內四大互聯網
Top 主站蜘蛛池模板: 永靖县| 南江县| 客服| 遂溪县| 营口市| 临颍县| 泗阳县| 商城县| 汝南县| 资中县| 齐河县| 康定县| 涿州市| 通渭县| 东兰县| 靖江市| 东乌珠穆沁旗| 襄汾县| 武宁县| 阳曲县| 云南省| 沁水县| 娄烦县| 阜阳市| 成安县| 萍乡市| 新巴尔虎左旗| 鲁甸县| 淄博市| 共和县| 洞口县| 井研县| 聂拉木县| 通渭县| 北碚区| 新晃| 清水县| 宜兰市| 锦屏县| 芦山县| 昆明市|