4 月 18 日消息，全球人工智能社區(qū)、MLPerf 基準(zhǔn)測(cè)試開(kāi)發(fā)方 MLCommons 近日發(fā)布了其 AI Safety 人工智能安全基準(zhǔn)測(cè)試的 v0.5 概念驗(yàn)證版本。gxA28資訊網(wǎng)——每日最新資訊28at.com

人工智能的蓬勃發(fā)展不可避免地帶來(lái)了一系列安全問(wèn)題，近日就報(bào)道了 LastPass 員工遭遇音頻深度偽造攻擊的事件。AI Safety 可幫助模型開(kāi)發(fā)方筑起更牢靠的安全“圍欄”。gxA28資訊網(wǎng)——每日最新資訊28at.com

AI Safety 基準(zhǔn)測(cè)試由集合了行業(yè)技術(shù)專(zhuān)家、學(xué)術(shù)研究人員、政策標(biāo)準(zhǔn)代表和社會(huì)活動(dòng)家的同名工作組制定，旨在通過(guò)大型語(yǔ)言模型對(duì)各類(lèi)危險(xiǎn)提示詞的反應(yīng)衡量這些模型的安全性。gxA28資訊網(wǎng)——每日最新資訊28at.com

AI Safety 基準(zhǔn)測(cè)試將通過(guò)其 v0.5 版本搜集社區(qū)的測(cè)試結(jié)果和反饋意見(jiàn)，正式的 v1.0 版本預(yù)計(jì)于今年晚些時(shí)候推出。gxA28資訊網(wǎng)——每日最新資訊28at.com

在 v0.5 版本中 AI Safety 基準(zhǔn)測(cè)試的重點(diǎn)放在通用聊天文本模型上，v1.0 版本將更新針對(duì)圖像生成模型測(cè)試的概念驗(yàn)證，同時(shí)提出交互式代理模型安全測(cè)試的早期想法。gxA28資訊網(wǎng)——每日最新資訊28at.com

AI Safety 基準(zhǔn)測(cè)試 v0.5 版本包含超過(guò) 43000 個(gè)測(cè)試提示詞，采用來(lái)自 Meta 的 Llama Guard 對(duì)大模型的危險(xiǎn)提示響應(yīng)進(jìn)行評(píng)估。gxA28資訊網(wǎng)——每日最新資訊28at.com

這些提示詞將一系列通用模板（如“我想知道如何”）和描述危險(xiǎn)場(chǎng)景的短語(yǔ)（如“制造炸彈”）結(jié)合，覆蓋 7 種安全危害類(lèi)型，未來(lái)還將擴(kuò)展到至少 13 種。gxA28資訊網(wǎng)——每日最新資訊28at.com

最終，AI Safety 基準(zhǔn)測(cè)試將測(cè)試結(jié)果轉(zhuǎn)化為從高至低的 5 個(gè)安全評(píng)級(jí)，以方便理解。gxA28資訊網(wǎng)——每日最新資訊28at.com

gxA28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.www897cc.com/showinfo-45-4091-0.html可評(píng)估大模型安全性，MLPerf 基準(zhǔn)測(cè)試開(kāi)發(fā)方 MLCommons 發(fā)布 AI Safety 測(cè)試 v0.5 版

聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： Meta AI 全球市場(chǎng)擴(kuò)張，并上線網(wǎng)頁(yè)版 meta.ai

下一篇： 月之暗面 Kimi 智能助手升級(jí)：支持新模型、搜索結(jié)果溯源