7 月 10 日消息,一項最新發現指出,人工智能工具 ChatGPT 在商業推薦中可能引用了不可靠的信息來源,包括被黑客攻擊的網站和已被重新利用的過期域名。
據了解,該發現由 SEO 專家、Digitaloft 公司董事總經理詹姆斯?布羅克班克(James Brockbank)通過個人測試得出,并非基于正式研究。他在測試中發現,ChatGPT 在推薦公司或服務時,有時會引用被篡改或誤導性的內容。這些內容往往來自被黑客入侵的高權重網站,或是已被重新注冊并用于發布無關信息的過期域名。由于這些域名本身具有較高的“權威性”,ChatGPT 在生成回答時仍將其視為可信來源。
布羅克班克指出,這種現象主要涉及兩類問題:一是被黑客攻擊的網站,攻擊者在這些網站上植入與原本內容無關的信息;二是過期域名的再利用,一些機構或個人購買這些域名后,發布與其原主題無關的內容,以借助其原有的搜索引擎權重誤導 AI 系統。
“重建一個域名,僅僅是為了讓語言模型引用它?這就是操控。”布羅克班克在接受采訪時表示。他強調,雖然通過合法媒體投放和精心策劃的內容可以提升在 AI 推薦中的曝光度,但利用被黑或過期域名則明顯越過了道德底線。
這一發現對企業和用戶均具有重要影響。對于企業而言,AI 推薦已成為品牌曝光的重要渠道,但如果推薦內容來源不可靠,可能誤導消費者,甚至損害品牌聲譽。對于用戶來說,盲目信任 AI 推薦可能帶來信息誤判的風險。
布羅克班克呼吁,AI 開發者應加強對操控內容的識別與過濾機制,提升系統的信息篩選能力。在此之前,他建議用戶在使用 ChatGPT 等 AI 工具時,應對其推薦的信息來源進行核實,而非全盤接受。
“我們還沒有到可以完全信任 ChatGPT 推薦而不加驗證的階段。”布羅克班克提醒道。
本文鏈接:http://www.www897cc.com/showinfo-45-14485-0.htmlChatGPT 商業推薦被曝引用不可靠信息來源,專家提醒用戶勿盲目信任
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com