日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 元宇宙 > AI

B站開源輕量級 Index-1.9B 系列模型:2.8T 訓(xùn)練數(shù)據(jù),支持角色扮演

來源: 責編: 時間:2024-06-22 16:27:51 172觀看
導(dǎo)讀 6 月 20 日消息,B站昨日開源了輕量級 Index-1.9B 系列模型,包含基座模型、對照組、對話模型、角色扮演模型等多個版本。附官方簡介:Index-1.9B base : 基座模型,具有 19 億非詞嵌入?yún)?shù)量,在 2.8T 中英文為主的語料

6 月 20 日消息,B站昨日開源了輕量級 Index-1.9B 系列模型,包含基座模型、對照組、對話模型、角色扮演模型等多個版本。4zi28資訊網(wǎng)——每日最新資訊28at.com

附官方簡介:4zi28資訊網(wǎng)——每日最新資訊28at.com

Index-1.9B base : 基座模型,具有 19 億非詞嵌入?yún)?shù)量,在 2.8T 中英文為主的語料上預(yù)訓(xùn)練,多個評測基準上與同級別模型比處于領(lǐng)先。4zi28資訊網(wǎng)——每日最新資訊28at.com

Index-1.9B pure : 基座模型的對照組,與 base 具有相同的參數(shù)和訓(xùn)練策略,不同之處在于嚴格過濾了該版本語料中所有指令相關(guān)的數(shù)據(jù),以此來驗證指令對 benchmark 的影響。4zi28資訊網(wǎng)——每日最新資訊28at.com

Index-1.9B chat :基于 index-1.9B base 通過 SFT 和 DPO 對齊后的對話模型,由于預(yù)訓(xùn)練中引入了較多互聯(lián)網(wǎng)社區(qū)語料,聊天的趣味性明顯更強。4zi28資訊網(wǎng)——每日最新資訊28at.com

Index-1.9B character :在 SFT 和 DPO 的基礎(chǔ)上引入了 RAG 來實現(xiàn) fewshots 角色扮演定制。4zi28資訊網(wǎng)——每日最新資訊28at.com

4zi28資訊網(wǎng)——每日最新資訊28at.com

4zi28資訊網(wǎng)——每日最新資訊28at.com

據(jù)介紹,該模型在預(yù)訓(xùn)練階段使用了 2.8T 規(guī)模的數(shù)據(jù),中英比例為 4:5,代碼占比 6%。目前,角色扮演模型內(nèi)置了角色“三三”,用戶也可以按需創(chuàng)建自己的角色。4zi28資訊網(wǎng)——每日最新資訊28at.com

項目地址:https://github.com/bilibili/Index-1.9B/blob/main/README.md4zi28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-45-4722-0.htmlB站開源輕量級 Index-1.9B 系列模型:2.8T 訓(xùn)練數(shù)據(jù),支持角色扮演

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: “HumanPlus”機器人問世:可模仿人類動作彈鋼琴、疊衣服,基于中國公司平臺

下一篇: 上海人工智能實驗室發(fā)布首個 AI 高考評測結(jié)果:語數(shù)英總分最高 303 分,數(shù)學(xué)全部不及格

標簽:
  • 熱門焦點
  • 元宇宙風口下,視覺中國如何重估?

    要說橫跨2021年和2022年,到目前仍然很火的概念,元宇宙肯定要算一個。不僅互聯(lián)網(wǎng)巨頭們紛紛布局,上市公司們趨之若鶩,還被不少地方政府寫入了產(chǎn)業(yè)規(guī)劃,大有在2022年
  • 英特爾首款加密芯片將于今年上市|國際動態(tài)

    No.1 英特爾首款加密芯片將于今年上市2月13日消息,英特爾首款名為“區(qū)塊鏈加速器”的加密芯片將于今年晚些時候上市。目前,已經(jīng)有兩家公司預(yù)訂了這項技術(shù),分別是G
  • “元宇宙第一股”Roblox首份年報未達預(yù)期,摩根大通成為首家進入元宇宙的銀行

    今日《元宇宙新鮮事》有:“元宇宙第一股”Roblox首份年報未達預(yù)期致盤后股價暴跌15.28%;YouTube宣布進軍區(qū)塊鏈和元宇宙;摩根大通成為首家進入元宇宙的銀行?!局?/span>
  • 區(qū)塊鏈產(chǎn)業(yè)人才發(fā)展報告

    工業(yè)和信息化部作為工業(yè)和信息化行業(yè)主管部門,正在著力推進“兩個強國”建設(shè),加快推動以區(qū)塊鏈為代表的新興技術(shù)與實體經(jīng)濟深度融合。我國區(qū)塊鏈技術(shù)和應(yīng)用想要
  • 元宇宙是推動NFT發(fā)展的初始家園

    現(xiàn)在大家都知道了什么是NFT,但好像離自己的生活還有一定距離。隨著我們與NFT 接觸增加,該如何將這些數(shù)字資產(chǎn)帶入我們的日常生活?NFT還是主流嗎?如果我們將“主流
  • 重溫 1602 年:DAO 是新的企業(yè)范式嗎?

    作者:Andrew Singer“ 將你的選票委托給行業(yè)有能力的專家,將使所有者在這些公司的管理中擁有更強大、更清晰的話語權(quán) ?!?602 年,荷蘭東印度公司成立,許多人認為
  • 藝術(shù)創(chuàng)作者能否永久收取版稅?

    NFTs正在改變我們理解互聯(lián)網(wǎng)所有權(quán)的方式,社區(qū)管理的所有權(quán)有很多好處,但如果創(chuàng)作者想為他/她的創(chuàng)作獲得永久的收益(版稅),會發(fā)生什么?這不是一個容易解決的問題,版稅
  • Staking 收益翻倍?

    以太坊質(zhì)押可能很快就會有兩倍的利潤。Coinbase 估計,在 1 月份以太坊網(wǎng)絡(luò)合并后,持有 ETH 的回報將翻倍。增長預(yù)期假設(shè)來自加密貨幣交易所 Coinbase 的估計是準
  • PayPal CEO 的加密語錄:加密貨幣將重新定義金融世界

    PayPal 近年來一直是加密行業(yè)的倡導(dǎo)者。這個本身擁有超過 3.5 億名活躍用戶的支付巨頭,已經(jīng)允許美國和英國的用戶交易或持有比特幣(BTC)、以太坊(ETH)、比特現(xiàn)金(BCH
Top 主站蜘蛛池模板: 雷波县| 牡丹江市| 肇州县| 锦屏县| 寿宁县| 仁寿县| 灵寿县| 获嘉县| 苍南县| 宣城市| 正蓝旗| 青河县| 和平县| 庆元县| 玛多县| 滕州市| 郧西县| 武乡县| 德阳市| 三都| 全州县| 准格尔旗| 许昌市| 专栏| 抚远县| 南平市| 阆中市| 甘德县| 永平县| 大姚县| 阿克苏市| 开远市| 安塞县| 平江县| 武冈市| 十堰市| 德惠市| 巍山| 屏南县| 宽城| 汤阴县|