5 月 21 日消息，谷歌DeepMind 日前推出了一款名為“Frontier Safety Framework”的 AI 安全框架，主要用于檢測(cè)AI模型的風(fēng)險(xiǎn)情況，號(hào)稱能夠主動(dòng)識(shí)別“未來(lái)可能釀成重大風(fēng)險(xiǎn)的 AI 能力”，向研究人員指出相關(guān)模型“究竟在哪些層面可能會(huì)被黑客利用”。Ff328資訊網(wǎng)——每日最新資訊28at.com

Ff328資訊網(wǎng)——每日最新資訊28at.com

據(jù)介紹，DeepMind 目前公布的 Frontier Safety Framework 1.0版本主要包含三個(gè)關(guān)鍵組件，即“識(shí)別模型是否具備釀成重大風(fēng)險(xiǎn)的能力”，“預(yù)估模型會(huì)在什么階段具備安全隱患”、“智能優(yōu)化模型防止其釀成風(fēng)險(xiǎn)”。Ff328資訊網(wǎng)——每日最新資訊28at.com

Ff328資訊網(wǎng)——每日最新資訊28at.com

DeepMind 表示，該公司“一直在突破 AI 的邊界”，所開發(fā)的模型已改變了他們對(duì) AI 可能性的認(rèn)知，雖然公司相信未來(lái)的 AI 技術(shù)將為社會(huì)帶來(lái)寶貴的工具。但他們也意識(shí)到相關(guān)AI技術(shù)的風(fēng)險(xiǎn)性有可能對(duì)社會(huì)造成毀滅性的影響，因此他們正在逐步增強(qiáng)模型的安全性與可控性。Ff328資訊網(wǎng)——每日最新資訊28at.com

注意到，目前 DeepMind 仍在開發(fā) Frontier Safety Framework，計(jì)劃通過(guò)產(chǎn)業(yè)、學(xué)術(shù)及有關(guān)部門的合作來(lái)改善相關(guān)框架。Ff328資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.www897cc.com/showinfo-45-4380-0.html谷歌 DeepMind 推出 AI 安全框架 Frontier Safety Framework，可檢測(cè)優(yōu)化降低大模型風(fēng)險(xiǎn)性

聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： IBM 宣布開源其“最先進(jìn)”Granite 代碼模型：116 種編程語(yǔ)言訓(xùn)練，號(hào)稱優(yōu)于其他競(jìng)品

下一篇： 面壁智能推出 MiniCPM-Llama3-V 2.5 開源端側(cè)多模態(tài)模型：8B 參數(shù)、高效部署手機(jī)