日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當(dāng)前位置:首頁(yè) > 元宇宙 > AI

90 270 億參數(shù),谷歌發(fā)布 Gemma 2 開(kāi)源 AI 模型:性能力壓同級(jí)、單 A100 H100 GPU 可運(yùn)行

來(lái)源: 責(zé)編: 時(shí)間:2024-07-01 17:09:15 154觀看
導(dǎo)讀 6 月 28 日消息,谷歌公司昨日發(fā)布新聞稿,面向全球研究人員和開(kāi)發(fā)人員發(fā)布 Gemma 2 大語(yǔ)言模型,共有 90 億參數(shù)(9B)和 270 億參數(shù)(27B)兩種大小。Gemma 2 大語(yǔ)言模型相比較第一代,推理性能更高、效率更高,并在安全性方

6 月 28 日消息,谷歌公司昨日發(fā)布新聞稿,面向全球研究人員和開(kāi)發(fā)人員發(fā)布 Gemma 2 大語(yǔ)言模型,共有 90 億參數(shù)(9B)和 270 億參數(shù)(27B)兩種大小。XQo28資訊網(wǎng)——每日最新資訊28at.com

XQo28資訊網(wǎng)——每日最新資訊28at.com

Gemma 2 大語(yǔ)言模型相比較第一代,推理性能更高、效率更高,并在安全性方面取得了重大進(jìn)步。XQo28資訊網(wǎng)——每日最新資訊28at.com

谷歌在新聞稿中表示,Gemma 2-27B 模型的性能媲美兩倍規(guī)模的主流模型,而且只需要一片英偉達(dá) H100 ensor Core GPU 或 TPU 主機(jī)就能實(shí)現(xiàn)這種性能,從而大大降低了部署成本。XQo28資訊網(wǎng)——每日最新資訊28at.com

Gemma 2-9B 模型優(yōu)于 Llama 3 8B 和其他類(lèi)似規(guī)模的開(kāi)源模型。谷歌還計(jì)劃在未來(lái)幾個(gè)月發(fā)布參數(shù)為 26 億的 Gemma 2 模型,更適合智能手機(jī)的人工智能應(yīng)用場(chǎng)景。XQo28資訊網(wǎng)——每日最新資訊28at.com

谷歌表示為 Gemma 2 重新設(shè)計(jì)了整體架構(gòu),實(shí)現(xiàn)卓越的性能和推理效率。附上 Gemma 2 主要特點(diǎn)如下:XQo28資訊網(wǎng)——每日最新資訊28at.com

性能優(yōu)異:

27B 版本在同規(guī)模級(jí)別中性能最佳,甚至比兩倍于其尺寸的機(jī)型更具競(jìng)爭(zhēng)力。9B 版本的性能在同類(lèi)產(chǎn)品中也處于領(lǐng)先地位,超過(guò)了 Llama 3 8B 和其他同規(guī)模的開(kāi)放模型。XQo28資訊網(wǎng)——每日最新資訊28at.com

XQo28資訊網(wǎng)——每日最新資訊28at.com

效率和成本:

27B Gemma 2 模型可在單個(gè)谷歌云 TPU 主機(jī)、英偉達(dá) A100 80GB Tensor Core GPU 或英偉達(dá) H100 Tensor Core GPU 上以全精度高效運(yùn)行推理,在保持高性能的同時(shí)大幅降低成本。這使得人工智能部署更容易實(shí)現(xiàn),預(yù)算也更合理。XQo28資訊網(wǎng)——每日最新資訊28at.com

跨硬件快速推理

Gemma 2 經(jīng)過(guò)優(yōu)化,可在各種硬件(從功能強(qiáng)大的游戲筆記本電腦和高端臺(tái)式機(jī)到基于云的設(shè)置)上以驚人的速度運(yùn)行。XQo28資訊網(wǎng)——每日最新資訊28at.com

在 Google AI Studio 中嘗試全精度的 Gemma 2,在 CPU 上使用 Gemma.cpp 的量化版本解鎖本地性能,或通過(guò) Hugging Face Transformers 在配備 NVIDIA RTX 或 GeForce RTX 的家用電腦上進(jìn)行嘗試。XQo28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-45-4876-0.html90 270 億參數(shù),谷歌發(fā)布 Gemma 2 開(kāi)源 AI 模型:性能力壓同級(jí)、單 A100 H100 GPU 可運(yùn)行

聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com

上一篇: 科大訊飛發(fā)布星火智能批閱機(jī):基于星火大模型,準(zhǔn)確率 99%

下一篇: OpenAI 與《時(shí)代》達(dá)成合作協(xié)議:可用其雜志內(nèi)容訓(xùn)練 ChatGPT

標(biāo)簽:
  • 熱門(mén)焦點(diǎn)

相關(guān)資訊

    SQL Error: select * from ***_ecms_news11 where id in(29,,107,114,176,101) limit 6
Top 主站蜘蛛池模板: 临武县| 兴隆县| 星子县| 龙川县| 威海市| 达孜县| 孟连| 大洼县| 信丰县| 孝义市| 南乐县| 郎溪县| 奉新县| 神池县| 上栗县| 屏南县| 察雅县| 白河县| 子长县| 普定县| 彭山县| 南漳县| 冀州市| 张掖市| 双牌县| 玉田县| 离岛区| 康乐县| 青河县| 德安县| 永吉县| 龙州县| 潢川县| 兴安县| 琼结县| 哈尔滨市| 唐海县| 五指山市| 阿尔山市| 班玛县| 信阳市|