5 月 21 日消息,谷歌DeepMind 日前推出了一款名為“Frontier Safety Framework”的 AI 安全框架,主要用于檢測(cè)AI模型的風(fēng)險(xiǎn)情況,號(hào)稱能夠主動(dòng)識(shí)別“未來(lái)可能釀成重大風(fēng)險(xiǎn)的 AI 能力”,向研究人員指出相關(guān)模型“究竟在哪些層面可能會(huì)被黑客利用”。
據(jù)介紹,DeepMind 目前公布的 Frontier Safety Framework 1.0版本主要包含三個(gè)關(guān)鍵組件,即“識(shí)別模型是否具備釀成重大風(fēng)險(xiǎn)的能力”,“預(yù)估模型會(huì)在什么階段具備安全隱患”、“智能優(yōu)化模型防止其釀成風(fēng)險(xiǎn)”。
DeepMind 表示,該公司“一直在突破 AI 的邊界”,所開發(fā)的模型已改變了他們對(duì) AI 可能性的認(rèn)知,雖然公司相信未來(lái)的 AI 技術(shù)將為社會(huì)帶來(lái)寶貴的工具。但他們也意識(shí)到相關(guān)AI技術(shù)的風(fēng)險(xiǎn)性有可能對(duì)社會(huì)造成毀滅性的影響,因此他們正在逐步增強(qiáng)模型的安全性與可控性。
注意到,目前 DeepMind 仍在開發(fā) Frontier Safety Framework,計(jì)劃通過(guò)產(chǎn)業(yè)、學(xué)術(shù)及有關(guān)部門的合作來(lái)改善相關(guān)框架。
本文鏈接:http://www.www897cc.com/showinfo-45-4380-0.html谷歌 DeepMind 推出 AI 安全框架 Frontier Safety Framework,可檢測(cè)優(yōu)化降低大模型風(fēng)險(xiǎn)性
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: IBM 宣布開源其“最先進(jìn)”Granite 代碼模型:116 種編程語(yǔ)言訓(xùn)練,號(hào)稱優(yōu)于其他競(jìng)品
下一篇: 面壁智能推出 MiniCPM-Llama3-V 2.5 開源端側(cè)多模態(tài)模型:8B 參數(shù)、高效部署手機(jī)