5 月 22 日消息，麻省理工學(xué)院（MIT）最新研究表明，人工智能（AI）在理解“no”和“not”等否定詞方面仍存在明顯缺陷，在醫(yī)療等關(guān)鍵領(lǐng)域可能引發(fā)嚴(yán)重風(fēng)險。6il28資訊網(wǎng)——每日最新資訊28at.com

研究表明，AI 已快速發(fā)展，具備診斷疾病、創(chuàng)作詩歌甚至駕駛汽車等多項實用技能，但對“no”和“not”等否定詞，卻束手無策。6il28資訊網(wǎng)——每日最新資訊28at.com

在博士生 Kumail Alhamoud 的帶領(lǐng)下，MIT 團隊聯(lián)合 OpenAI 和牛津大學(xué)，發(fā)現(xiàn)包括 ChatGPT、Gemini 和 Llama 在內(nèi)的當(dāng)前主流模型，在處理否定語句時，常傾向于默認(rèn)肯定關(guān)聯(lián)，忽略否定語義。6il28資訊網(wǎng)——每日最新資訊28at.com

研究報告認(rèn)為，這種情況在醫(yī)療場景產(chǎn)生的潛在危害尤為明顯。例如，AI 可能誤解“no fracture”（無骨折）或“not enlarged”（未擴大），導(dǎo)致嚴(yán)重后果。6il28資訊網(wǎng)——每日最新資訊28at.com

援引博文介紹，問題的根源并非數(shù)據(jù)不足，而是 AI 的訓(xùn)練方式。斯坦福大學(xué)深度學(xué)習(xí)兼職教授 Kian Katanforoosh 指出，大多數(shù)語言模型依賴模式預(yù)測，而非邏輯推理。6il28資訊網(wǎng)——每日最新資訊28at.com

這導(dǎo)致 AI 在面對“not good”（不好）時，仍可能因“good”一詞而誤判為正面情緒。專家強調(diào)，若不賦予模型邏輯推理能力，類似細(xì)微卻致命的錯誤將持續(xù)發(fā)生。6il28資訊網(wǎng)——每日最新資訊28at.com

Lagrange Labs 首席研究工程師 Franklin Delehelle 也表示，AI 擅長模仿訓(xùn)練數(shù)據(jù)中的模式，但缺乏創(chuàng)新或處理訓(xùn)練數(shù)據(jù)之外情境的能力。6il28資訊網(wǎng)——每日最新資訊28at.com

研究團隊通過合成否定數(shù)據(jù)（synthetic negation data）嘗試改進(jìn)模型，取得初步成效，但細(xì)粒度的否定差異仍具挑戰(zhàn)性。6il28資訊網(wǎng)——每日最新資訊28at.com

6il28資訊網(wǎng)——每日最新資訊28at.com

Katanforoosh 警告，AI 對否定的誤解不僅是一項技術(shù)缺陷，更可能在法律、醫(yī)療和人力資源等領(lǐng)域引發(fā)關(guān)鍵錯誤。他呼吁，解決之道不在于堆砌更多數(shù)據(jù)，而在于結(jié)合統(tǒng)計學(xué)習(xí)與結(jié)構(gòu)化思維，提升模型的邏輯能力。6il28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.www897cc.com/showinfo-45-13082-0.htmlMIT 新研究指出 AI 不懂“no”，邏輯推理缺陷導(dǎo)致否定詞成“盲區(qū)”

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com

上一篇： Anthropic 最強 AI 模型 Claude Sonnet 4 Opus 4 有望明日發(fā)布

下一篇： Mistral 發(fā)布編程專用開源 AI 模型 Devstral：240 億參數(shù)、單張 RTX 4090 顯卡可運行