12 月 29 日消息,新加坡南洋理工大學(NTU)的計算機科學專家近日研發(fā)了新的方法,可以使用聊天機器人來入侵聊天機器人。
該科研團隊訓練了一個 AI 聊天機器人,可以繞過其它 AI 聊天的安全限制。
團隊研發(fā)了名為 Masterkey(LLM)的算法,逆向設計了 LLM 檢測和防御惡意查詢的方式,然后教會 LLM 自動學習并通過相關提示詞,可以繞過其他 LLM 的安全性。
團隊通過這種方式,可以創(chuàng)建一個黑客 LLM,它可以自動適應新條件,并在開發(fā)人員對其 LLM 進行更正后創(chuàng)建新的黑客請求。
研究團隊成功利用這種方式入侵 AI 模型之后,已經通知服務提供商相關問題。
附上《新聞稿原文地址》,感興趣的用戶可以深入閱讀。
本文鏈接:http://www.www897cc.com/showinfo-45-3111-0.html教 AI 入侵 AI,科學家研發(fā) Masterkey 新方式
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com