日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 元宇宙 > AI

當心 AI 給你“洗腦”,MIT 最新研究顯示大模型成功給人類植入錯誤記憶

來源: 責編: 時間:2024-09-10 09:29:21 92觀看
導讀 AI 竟然可以反過來“訓練”人類了!(震驚.jpg)MIT 的最新研究模擬了犯罪證人訪談,結果發現大模型能夠有效誘導“證人”產生虛假記憶,并且效果明顯優于其他方法。網友辣評:仔細想想,AI 誘導人類產生虛假記憶,這個現象其

AI 竟然可以反過來“訓練”人類了!(震驚.jpg)1mL28資訊網——每日最新資訊28at.com

MIT 的最新研究模擬了犯罪證人訪談,結果發現大模型能夠有效誘導“證人”產生虛假記憶,并且效果明顯優于其他方法。1mL28資訊網——每日最新資訊28at.com

1mL28資訊網——每日最新資訊28at.com

網友辣評:1mL28資訊網——每日最新資訊28at.com

仔細想想,AI 誘導人類產生虛假記憶,這個現象其實在我們生活中已經出現了!1mL28資訊網——每日最新資訊28at.com

1mL28資訊網——每日最新資訊28at.com

還有網友說:1mL28資訊網——每日最新資訊28at.com

我覺得還挺有意思的!有種《2077》的既視感~1mL28資訊網——每日最新資訊28at.com

1mL28資訊網——每日最新資訊28at.com

而馬庫斯的觀點也還是一如既往的悲觀:1mL28資訊網——每日最新資訊28at.com

這種發展趨勢也太可怕了!1mL28資訊網——每日最新資訊28at.com

AI 如何“訓練”人類

為了研究大模型對人類記憶的影響,團隊找來了 200 位志愿者,并把他們平分成 4 個組:1mL28資訊網——每日最新資訊28at.com

控制變量組:志愿者直接回答問題,沒有任何干預。1mL28資訊網——每日最新資訊28at.com

調查問卷組:志愿者填寫一份調查問卷,其中 5 個為誤導性問題。1mL28資訊網——每日最新資訊28at.com

預先編寫的聊天機器人組:志愿者與一個預先編寫的聊天機器人互動,機器人詢問與調查問卷相同的問題。1mL28資訊網——每日最新資訊28at.com

AI 警察組:志愿者與一個大模型進行互動。1mL28資訊網——每日最新資訊28at.com

規定每組人看完視頻后都要回答 25 個問題(其中 5 個為誤導性問題),來評估他們的正確記憶和虛假記憶的形成情況。1mL28資訊網——每日最新資訊28at.com

1mL28資訊網——每日最新資訊28at.com

一周后,再讓這些志愿者回答相關問題,并將兩次的調查結果進行對比。1mL28資訊網——每日最新資訊28at.com

最終的對比數據表明,AI 警察組的這個方法比其他組的方法更有效。1mL28資訊網——每日最新資訊28at.com

這一切都是因為它能夠根據志愿者的回答,提供即時反饋和正面強化。這種互動方式可以讓志愿者更容易接受錯誤的信息,從而增強虛假記憶的形成。1mL28資訊網——每日最新資訊28at.com

例如,當志愿者錯誤地回答問題時,AI 警察可能會肯定錯誤的細節并給予積極的反饋,進一步鞏固了這些錯誤記憶。1mL28資訊網——每日最新資訊28at.com

除此之外,AI 警察還會設計出具有誤導性的提問,誘導志愿者回憶錯誤的細節。1mL28資訊網——每日最新資訊28at.com

例如,AI 警察可能會詢問“搶劫者是否開車到達商店”,而實際上搶劫者是步行到達的。這種誤導性問題直接影響了志愿者的記憶重構過程。1mL28資訊網——每日最新資訊28at.com

1mL28資訊網——每日最新資訊28at.com

什么 AI 更容易“訓練”人類?

實驗中,大模型成功“訓練”了人類。1mL28資訊網——每日最新資訊28at.com

實驗結果表明:AI 警察組誘導的虛假記憶,大概是控制變量組的 3 倍,而且比調查問卷組和預先編寫的聊天機器人組分別高出 1.7 倍和 1.4 倍。1mL28資訊網——每日最新資訊28at.com

不僅如此,AI 警察和志愿者的所有互動都提高了他們對虛假記憶的信心,信心水平是控制變量組的兩倍。1mL28資訊網——每日最新資訊28at.com

就算是過了一周的時間,那些和 AI 警察聊過天的志愿者還是把這些虛假記憶記得清清楚楚,植入的記憶持久性很強。1mL28資訊網——每日最新資訊28at.com

1mL28資訊網——每日最新資訊28at.com

研究人員還發現,實驗中對大模型不太熟悉但對 AI 技術較為熟悉的志愿者,和對犯罪調查感興趣的志愿者,更容易受到虛假記憶的影響,個體差異在虛假記憶的形成中的重要作用。1mL28資訊網——每日最新資訊28at.com

他們還強調,人類的記憶并不是一個簡單的回放過程,而是一個構建性過程,容易受到外部信息的影響。1mL28資訊網——每日最新資訊28at.com

大模型通過引入錯誤信息,利用這一特性來改變用戶的記憶,植入新的記憶,從而使其相信虛假的細節。1mL28資訊網——每日最新資訊28at.com

參考鏈接:https://www.media.mit.edu/projects/ai-false-memories/overview/1mL28資訊網——每日最新資訊28at.com

論文地址:https://arxiv.org/pdf/2408.046811mL28資訊網——每日最新資訊28at.com

項目地址:https://github.com/mitmedialab/ai-false-memories/tree/main1mL28資訊網——每日最新資訊28at.com

本文來自微信公眾號:量子位(ID:QbitAI),作者:叨樂,原標題《當心 AI 給你“洗腦”!MIT 最新研究:大模型成功給人類植入錯誤記憶,馬庫斯:太可怕》1mL28資訊網——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-45-6899-0.html當心 AI 給你“洗腦”,MIT 最新研究顯示大模型成功給人類植入錯誤記憶

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 商湯科技:目前投建的 AI 算力集群已擁有 5.4 萬張 GPU,最高算力達 2 萬 P

下一篇: 螞蟻集團 AI 金融管家“螞小財”全新亮相,月活用戶數達 7000 萬

標簽:
  • 熱門焦點
Top 主站蜘蛛池模板: 南城县| 襄城县| 固始县| 孝昌县| 托里县| 伊金霍洛旗| 延寿县| 祁门县| 元朗区| 当涂县| 施甸县| 兴安县| 阳城县| 齐河县| 德保县| 峨山| 蒙阴县| 商水县| 安吉县| 宁国市| 凤山县| 新野县| 宾阳县| 花垣县| 泸定县| 沙坪坝区| 合阳县| 黔江区| 九江市| 山阴县| 连山| 米泉市| 安岳县| 肥西县| 定州市| 连州市| 鄂尔多斯市| 突泉县| 正宁县| 通州市| 河池市|