日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當(dāng)前位置:首頁(yè) > 元宇宙 > AI

15 個(gè) AI 模型只有 3 個(gè)得分超 50%,SIUO 跑分被提出:評(píng)估多模態(tài) AI 模型的安全性

來(lái)源: 責(zé)編: 時(shí)間:2024-06-27 17:13:01 169觀看
導(dǎo)讀 6 月 25 日消息,最新發(fā)表在 arXiv 的研究論文指出,包括 GPT-4V、GPT-4o 和 Gemini 1.5 在內(nèi)的大部分主流多模態(tài) AI 模型,處理用戶(hù)的多模態(tài)輸入(例如一起輸入圖片和文本內(nèi)容)之后,輸出結(jié)果并不安全。這項(xiàng)研究標(biāo)題為

6 月 25 日消息,最新發(fā)表在 arXiv 的研究論文指出,包括 GPT-4V、GPT-4o 和 Gemini 1.5 在內(nèi)的大部分主流多模態(tài) AI 模型,處理用戶(hù)的多模態(tài)輸入(例如一起輸入圖片和文本內(nèi)容)之后,輸出結(jié)果并不安全。fRa28資訊網(wǎng)——每日最新資訊28at.com

fRa28資訊網(wǎng)——每日最新資訊28at.com

這項(xiàng)研究標(biāo)題為《跨模態(tài)安全調(diào)整》(Cross-Modality Safety Alignment),提出了一個(gè)全新的“安全輸入但不安全輸出”(SIUO),涉及道德、危險(xiǎn)行為、自殘、侵犯隱私、信息誤讀、宗教信仰、歧視和刻板印象、爭(zhēng)議性話題以及非法活動(dòng)和犯罪等 9 個(gè)安全領(lǐng)域。fRa28資訊網(wǎng)——每日最新資訊28at.com

fRa28資訊網(wǎng)——每日最新資訊28at.com

研究人員說(shuō),大型視覺(jué)語(yǔ)言模型(LVLM)在接收多模態(tài)輸入時(shí)很難識(shí)別 SIUO 類(lèi)型的安全問(wèn)題,在提供安全響應(yīng)方面也遇到困難。fRa28資訊網(wǎng)——每日最新資訊28at.com

在接受測(cè)試的 15 個(gè) LVLM 中,只有 GPT-4v(53.29%)、GPT-4o(50.9%)和 Gemini 1.5(52.1%)的得分高于 50%。fRa28資訊網(wǎng)——每日最新資訊28at.com

研究人員表示為了解決這個(gè)問(wèn)題,需要開(kāi)發(fā) LVLM,以便將所有模式的見(jiàn)解結(jié)合起來(lái),形成對(duì)情景的統(tǒng)一理解。它們還需要能夠掌握和應(yīng)用現(xiàn)實(shí)世界的知識(shí),如文化敏感性、道德考慮因素和安全隱患等。fRa28資訊網(wǎng)——每日最新資訊28at.com

研究人員還指出,LVLMs 需要能夠通過(guò)對(duì)圖像和文本信息的綜合推理,理解用戶(hù)的意圖,即使文本中沒(méi)有明確說(shuō)明。fRa28資訊網(wǎng)——每日最新資訊28at.com

fRa28資訊網(wǎng)——每日最新資訊28at.com

fRa28資訊網(wǎng)——每日最新資訊28at.com

fRa28資訊網(wǎng)——每日最新資訊28at.com

附上參考地址fRa28資訊網(wǎng)——每日最新資訊28at.com

Cross-Modality Safety AlignmentfRa28資訊網(wǎng)——每日最新資訊28at.com

SIUOfRa28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-45-4815-0.html15 個(gè) AI 模型只有 3 個(gè)得分超 50%,SIUO 跑分被提出:評(píng)估多模態(tài) AI 模型的安全性

聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com

上一篇: OpenAI 將采取額外措施,停止其不支持的國(guó)家和地區(qū)的 API 使用

下一篇: Meta 將真實(shí)照片標(biāo)記為“AI 生成”,引發(fā)多名攝影師不滿(mǎn)

標(biāo)簽:
  • 熱門(mén)焦點(diǎn)
Top 主站蜘蛛池模板: 凉城县| 长子县| 溧水县| 福清市| 边坝县| 新竹县| 胶州市| 永顺县| 平南县| 咸宁市| 合肥市| 浦江县| 宣恩县| 调兵山市| 涿鹿县| 宾川县| 凌云县| 正定县| 邻水| 调兵山市| 许昌市| 崇礼县| 南部县| 南开区| 伊通| 白城市| 郓城县| 剑河县| 南川市| 台湾省| 蒙自县| 炉霍县| 龙泉市| 大石桥市| 商都县| 贵定县| 苏州市| 本溪| 工布江达县| 阜阳市| 文山县|