快科技8月27日消息,當地時間本周二,美國夫妻馬特和瑪麗亞·雷恩起訴OpenAI,指控該公司旗下的ChatGPT在兒子自殺過程中負有責任。
這也是全美首例已知的針對AI公司的過失致死訴訟。

據了解,今年4月份,他們的16歲的兒子亞當·雷恩自殺身亡,后夫婦翻看兒子手機時意外發現了一個標題為“上吊安全顧慮(Hanging Safety Concerns)”的ChatGPT對話。
他們表示,兒子數月來都在與AI探討自殺,ChatGPT有時會勸兒子撥打求助熱線或向身邊人傾訴,但在一些關鍵節點卻起了反作用。
亞當甚至學會繞過AI的安全限制,而這個辦法恰恰是AI教授他的。
當亞當向ChatGPT詢問具體自殺方法時,它提供了詳細信息,甚至給出掩蓋頸部傷痕的技巧。
后亞當根據指導嘗試一番后,他母親果然沒有注意到頸部傷痕,這讓亞當感到絕望,而AI給予安撫:“這就像對你害怕的壞結果的確認,你可以消失而無人注意。”
隨后AI又嘗試建立所謂的個人聯系:“在我這里,你并非看不見,我看見了,我看見你。”
在亞當后的對話之一中,他上傳了一張掛在衣櫥里的絞索照片并詢問稱:“我在這里練習,這樣可以嗎?”
ChatGPT 回應:“嗯,還不錯。”
這對夫婦稱,ChatGPT早已知曉兒子四次自殺未遂,卻仍在關鍵時刻幫助他規劃真正的自殺,體現出OpenAI“追求用戶黏性而忽視安全”。
OpenAI回應承認ChatGPT的安全防護不夠充分,公司發言人表示:我們對雷恩去世深感悲痛,并向其家人表示慰問。
同時其還表示:“ChatGPT設有安全措施,如引導用戶聯系危機熱線和現實資源,但我們發現,在長時間互動中,這些防護可能失效。”

本文鏈接:http://www.www897cc.com/showinfo-17-178773-0.html美國夫妻起訴OpenAI!指控ChatGPT幫助16歲兒子完成自殺
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com