4 月 24 日消息，Anthropic 昨日（4 月 23 日）發(fā)布博文，報(bào)告稱 Claude 等前沿 AI 模型正被惡意行為者濫用，涉及“輿論引導(dǎo)服務(wù)”（influence-as-a-service）操作、憑證填充、招聘詐騙及惡意軟件開發(fā)等活動(dòng)。GQa28資訊網(wǎng)——每日最新資訊28at.com

Anthropic 開發(fā)團(tuán)隊(duì)為 Claude 采取了多項(xiàng)安全措施，成功阻止了許多有害輸出，但威脅行為者仍在嘗試?yán)@過這些保護(hù)。援引博文介紹，報(bào)告通過多個(gè)案例，揭示了惡意行為者如何利用 AI 技術(shù)進(jìn)行復(fù)雜操作，包括政治影響力操控、憑證竊取、招聘詐騙及惡意軟件開發(fā)。GQa28資訊網(wǎng)——每日最新資訊28at.com

其中最值得關(guān)注的一個(gè)案例，就是一個(gè)營(yíng)利組織在 X 和 Facebook 上創(chuàng)建了超過 100 個(gè)虛假賬號(hào)，完全無人為干預(yù)，能使用多種語言發(fā)表評(píng)論，偽裝成真實(shí)用戶，成功與數(shù)萬名真實(shí)用戶互動(dòng)，傳播政治偏見的敘事內(nèi)容。GQa28資訊網(wǎng)——每日最新資訊28at.com

GQa28資訊網(wǎng)——每日最新資訊28at.com

另一個(gè)案例涉及憑證填充操作，惡意行為者利用 Claude 增強(qiáng)系統(tǒng)，識(shí)別并處理與安全攝像頭相關(guān)的泄露用戶名和密碼，同時(shí)搜集互聯(lián)網(wǎng)目標(biāo)信息以測(cè)試這些憑證。GQa28資訊網(wǎng)——每日最新資訊28at.com

報(bào)告還發(fā)現(xiàn)，一名技術(shù)能力有限的用戶，通過 Claude 開發(fā)出超出其技能水平的惡意軟件。這些案例均未確認(rèn)實(shí)際部署成功，但顯示出 AI 如何降低惡意行為的門檻。GQa28資訊網(wǎng)——每日最新資訊28at.com

研究團(tuán)隊(duì)通過 Clio 和分層摘要等技術(shù)，分析大量對(duì)話數(shù)據(jù)，識(shí)別濫用模式，并結(jié)合分類器檢測(cè)潛在有害請(qǐng)求，成功封禁相關(guān)賬戶。團(tuán)隊(duì)強(qiáng)調(diào)，隨著 AI 系統(tǒng)功能增強(qiáng)，半自主復(fù)雜濫用系統(tǒng)可能愈發(fā)普遍。GQa28資訊網(wǎng)——每日最新資訊28at.com

GQa28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.www897cc.com/showinfo-45-12583-0.htmlAnthropic 示警：Claude 等 AI 被濫用，引導(dǎo)輿論威脅公眾認(rèn)知

聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： “AI 教父”等發(fā)布聯(lián)名公開信： OpenAI 重組背離初衷，呼吁監(jiān)管介入

下一篇： OpenAI 將 ChatGPT 新圖像生成技術(shù)引入 API，每張圖約 2 美分起