5 月 21 日消息，谷歌DeepMind 日前推出了一款名為“Frontier Safety Framework”的 AI 安全框架，主要用于檢測AI模型的風(fēng)險情況，號稱能夠主動識別“未來可能釀成重大風(fēng)險的 AI 能力”，向研究人員指出相關(guān)模型“究竟在哪些層面可能會被黑客利用”。p0b28資訊網(wǎng)——每日最新資訊28at.com

p0b28資訊網(wǎng)——每日最新資訊28at.com

據(jù)介紹，DeepMind 目前公布的 Frontier Safety Framework 1.0版本主要包含三個關(guān)鍵組件，即“識別模型是否具備釀成重大風(fēng)險的能力”，“預(yù)估模型會在什么階段具備安全隱患”、“智能優(yōu)化模型防止其釀成風(fēng)險”。p0b28資訊網(wǎng)——每日最新資訊28at.com

p0b28資訊網(wǎng)——每日最新資訊28at.com

DeepMind 表示，該公司“一直在突破 AI 的邊界”，所開發(fā)的模型已改變了他們對 AI 可能性的認(rèn)知，雖然公司相信未來的 AI 技術(shù)將為社會帶來寶貴的工具。但他們也意識到相關(guān)AI技術(shù)的風(fēng)險性有可能對社會造成毀滅性的影響，因此他們正在逐步增強(qiáng)模型的安全性與可控性。p0b28資訊網(wǎng)——每日最新資訊28at.com

注意到，目前 DeepMind 仍在開發(fā) Frontier Safety Framework，計劃通過產(chǎn)業(yè)、學(xué)術(shù)及有關(guān)部門的合作來改善相關(guān)框架。p0b28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.www897cc.com/showinfo-45-4380-0.html谷歌 DeepMind 推出 AI 安全框架 Frontier Safety Framework，可檢測優(yōu)化降低大模型風(fēng)險性

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com

上一篇： IBM 宣布開源其“最先進(jìn)”Granite 代碼模型：116 種編程語言訓(xùn)練，號稱優(yōu)于其他競品

下一篇： 面壁智能推出 MiniCPM-Llama3-V 2.5 開源端側(cè)多模態(tài)模型：8B 參數(shù)、高效部署手機(jī)