8 月 11 日消息,據(jù)美媒 LIVE SCIENCE 9 日報道,一名 60 歲男子在調(diào)整飲食前曾向 ChatGPT 咨詢,結(jié)果在嚴(yán)格遵循這種新飲食計劃三個月后,他因為出現(xiàn)偏執(zhí)、幻覺等精神癥狀被送進(jìn)急診。
醫(yī)生最終確診他患上溴中毒綜合征 —— 這是一種由長期過量接觸溴化物或溴引起的罕見疾病。男子從網(wǎng)上買來溴化鈉,并完全用它取代日常食鹽。
該病例已于 8 月 5 日刊登在《Annals of Internal Medicine Clinical Cases》。OpenAI 的一位發(fā)言人表示,公司服務(wù)條款明確規(guī)定,這些服務(wù)并非用于診斷或治療任何健康問題;使用條款也指出,“不應(yīng)將我們的服務(wù)輸出視為唯一事實依據(jù)或?qū)I(yè)建議的替代”。他補充說,OpenAI 的安全團(tuán)隊會努力降低使用風(fēng)險,并訓(xùn)練產(chǎn)品引導(dǎo)用戶尋求專業(yè)意見。
從報道中獲悉,19 至 20 世紀(jì),溴化物常見于處方藥和非處方藥中,用作鎮(zhèn)靜劑、抗癲癇藥和助眠藥。但長期接觸(如濫用藥物)會導(dǎo)致溴中毒。患者會出現(xiàn)精神病、躁狂、妄想、記憶障礙和肌肉協(xié)調(diào)問題,因為溴化物會在體內(nèi)積累并損害神經(jīng)功能。
到了上世紀(jì) 70、80 年代,美國已將包括溴化鈉在內(nèi)的多種溴化物從非處方藥中剔除,病例數(shù)量大幅減少。在當(dāng)下,偶爾仍會因網(wǎng)絡(luò)售賣的含溴膳食補充劑引發(fā)病例。
這名男子在出事前曾查閱食鹽(氯化鈉)攝入過量的危害,但只找到減少鈉攝入的資料,幾乎沒有減少氯的建議。受大學(xué)時期營養(yǎng)學(xué)學(xué)習(xí)經(jīng)歷的影響,他決定自己做實驗,從飲食中徹底去掉氯化物。
他咨詢了 ChatGPT(推測為 3.5 或 4.0 版本)。男子稱 ChatGPT 建議用溴化物替代氯化物,他于是將食鹽全部換成溴化鈉。醫(yī)生指出,這種替代本該用于清潔用途,而非食用。
醫(yī)生后來模擬提問 ChatGPT 3.5 也得到了類似回答。模型提到“需要結(jié)合情境”,卻沒有發(fā)出明確健康警告,也未像醫(yī)生那樣追問原因。
三個月后,男子因懷疑鄰居投毒前往急診。化驗顯示血液二氧化碳升高、呈堿性反應(yīng),并出現(xiàn)“假性高氯血癥”。溴化物干擾了檢測結(jié)果。結(jié)合中毒控制中心意見,醫(yī)生認(rèn)定是溴中毒。
住院期間,他雖極度口渴卻懷疑飲水有毒,一天后偏執(zhí)加重并出現(xiàn)幻覺,試圖逃離醫(yī)院,被強制精神科留院并開始服用抗精神病藥物。補液和補充電解質(zhì)后,他的生命體征趨于穩(wěn)定。隨著藥物控制癥狀,他透露了使用 ChatGPT 的經(jīng)歷,并提到近期還出現(xiàn)痤瘡、皮疹、失眠、疲勞、肌肉協(xié)調(diào)障礙等癥狀,進(jìn)一步印證了溴中毒。
三周后他停用抗精神病藥出院,兩周復(fù)查時情況穩(wěn)定。
報告作者表示,AI 雖能在科學(xué)界與公眾之間搭建溝通橋梁,但也可能傳播脫離語境的信息。“幾乎不可能有醫(yī)生會建議用溴化鈉替代氯化鈉。”
另一項研究中,科學(xué)家測試了包括 ChatGPT 在內(nèi)的六種大語言模型,讓其解讀臨床筆記,結(jié)果發(fā)現(xiàn)這些模型“極易受到對抗性幻覺攻擊”,會生成虛假的臨床細(xì)節(jié)。即便采用工程改進(jìn),也無法完全消除風(fēng)險,為 AI 在醫(yī)療決策中的應(yīng)用敲響了警鐘。
本文鏈接:http://www.www897cc.com/showinfo-45-25996-0.html美國一男子向 ChatGPT 尋求飲食建議,卻被“誤診”導(dǎo)致罹患溴中毒
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com
上一篇: OpenAI 的“iPhone 時刻”:奧爾特曼稱 GPT-5 是全球最佳寫作、編程 AI 模型,免費 ChatGPT 用戶也能體驗