Meta公司,最近宣布了一項(xiàng)重要計(jì)劃——Purple Llama計(jì)劃,旨在推廣大型語(yǔ)言模型(LLM)的安全評(píng)測(cè)工具。這一計(jì)劃的推出,無(wú)疑將為L(zhǎng)LM的安全性和可靠性提供更為全面的保障。
Llama模型在2月發(fā)布,有70億至650億個(gè)參數(shù)的四種大小版本,主要供學(xué)術(shù)研究使用。7月,Meta發(fā)布了Llama 2,包含70億、130億、700億個(gè)參數(shù)的三種大小版本,不僅供學(xué)術(shù)界使用,還向商業(yè)界開(kāi)放,但使用條款仍施加了一定的限制。自Llama系列模型發(fā)布以來(lái),其總下載次數(shù)已經(jīng)突破了1億次的大關(guān)。
Purple Llama計(jì)劃是一項(xiàng)具有創(chuàng)新性的計(jì)劃,它借鑒了網(wǎng)絡(luò)安全的紅隊(duì)和藍(lán)隊(duì)協(xié)作的理念,融合成了紫隊(duì)。這個(gè)計(jì)劃包括CyberSec Eval,這是一個(gè)專門為L(zhǎng)LM設(shè)計(jì)的安全評(píng)估基準(zhǔn),以及Llama Guard,一個(gè)用于過(guò)濾模型輸入和輸出數(shù)據(jù)的安全分類器。這些工具可以幫助開(kāi)發(fā)者量化LLM的網(wǎng)絡(luò)安全風(fēng)險(xiǎn),評(píng)估LLM產(chǎn)出危險(xiǎn)程序碼建議的頻率,并使LLM更難以產(chǎn)生惡意程序碼或助長(zhǎng)網(wǎng)絡(luò)攻擊。
除了Meta之外,微軟和亞馬遜等公司也在積極參與到這個(gè)計(jì)劃中來(lái)。微軟和Meta都派代表參與了數(shù)碼發(fā)展部啟動(dòng)的AI產(chǎn)品與系統(tǒng)評(píng)測(cè)中心。這個(gè)評(píng)測(cè)中心將以語(yǔ)言模型為評(píng)測(cè)對(duì)象,參考?xì)W美的規(guī)范,制定出10項(xiàng)評(píng)測(cè)項(xiàng)目,包括安全性、可解釋性、彈性、公平性、準(zhǔn)確性、透明性、當(dāng)責(zé)性、可靠性、隱私及網(wǎng)安等方面。
Meta的Purple Llama計(jì)劃不僅是對(duì)LLM安全性的一種保障,也是對(duì)全球人工智能發(fā)展的一種貢獻(xiàn)。隨著人工智能技術(shù)的不斷發(fā)展,我們期待看到更多這樣的計(jì)劃和合作的出現(xiàn),共同推動(dòng)人工智能技術(shù)的進(jìn)步和發(fā)展。
本文鏈接:http://www.www897cc.com/showinfo-27-42132-0.htmlMeta推出Purple Llama計(jì)劃,推動(dòng)LLM安全評(píng)測(cè)工具的普及
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: 「天河星逸」超級(jí)電腦:運(yùn)算能力倍增
下一篇: 亞德客在工業(yè)自動(dòng)化領(lǐng)域率先回溫,氣動(dòng)元件市場(chǎng)前景看好