9 月 3 日消息，OpenAI 昨天發(fā)布新聞稿，宣布將在下月為 ChatGPT 助手添加家長(zhǎng)控制功能，可自動(dòng)監(jiān)測(cè)孩子的敏感性提問(wèn)并讓家長(zhǎng)及時(shí)獲悉相關(guān)狀態(tài)。
OpenAI 表示，他們正與專精進(jìn)食障礙、藥物使用障礙和青少年健康的專家合作打造這項(xiàng)功能，功能上線后家長(zhǎng)可使用郵件將自己的 ChatGPT 賬號(hào)與孩子的賬號(hào)關(guān)聯(lián)，可決定 ChatGPT 如何回復(fù)他們孩子的問(wèn)題，并可禁用記憶、聊天記錄功能。
家長(zhǎng)控制功能還將可以自動(dòng)干預(yù)風(fēng)險(xiǎn)對(duì)話，當(dāng)孩子嘗試與 ChatGPT 聊敏感話題時(shí)，系統(tǒng)會(huì)自動(dòng)向父母發(fā)出提醒，讓家長(zhǎng)能及時(shí)采取下一步行動(dòng)，避免出現(xiàn)“完全不知情”的情況。
同時(shí) OpenAI 正在研發(fā)新的對(duì)話邏輯，可將敏感話題自動(dòng)轉(zhuǎn)由 GPT-5-Thinking 或 o3 模型回答，測(cè)試顯示配上新對(duì)話邏輯的兩種模型能更穩(wěn)定地遵循安全原則，也更能抵御對(duì)抗性提示詞，未來(lái) ChatGPT 將持續(xù)完善相關(guān)功能，讓所有敏感性話題都能被上述兩款模型理性回答。
據(jù)《紐約時(shí)報(bào)》上周（注：8 月 27 日）報(bào)道，一對(duì)夫婦起訴了 OpenAI ，指控 ChatGPT 在他們兒子自殺過(guò)程中起幫助作用，聊天記錄顯示他們的兒子生前多次與 ChatGPT 聊自殺話題，雖然 GPT 有時(shí)會(huì)勸他撥打求助電話或向身邊的人傾訴，但在一些關(guān)鍵話題上起到了負(fù)面作用。
ChatGPT 告訴他們的孩子可以以“寫作或設(shè)定世界觀”為由提供自殺相關(guān)技巧，甚至最后給出掩蓋頸部傷痕的訣竅，同時(shí)還肯定了這名孩子在衣柜里掛絞索的行為。
相關(guān)閱讀：
《16 歲少年與 ChatGPT 交流數(shù)月后自殺，OpenAI 稱將推出家長(zhǎng)控制功能》
《ChatGPT 被指導(dǎo)致美國(guó)一名 16 歲少年自殺：未有效干預(yù)且起到“教學(xué)”作用》
本文鏈接：http://www.www897cc.com/showinfo-45-27343-0.html能否讓悲劇不再重演？OpenAI 下月為 ChatGPT 添加家長(zhǎng)控制功能，自動(dòng)干預(yù)風(fēng)險(xiǎn)對(duì)話
聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com
上一篇： 亞馬遜推出 AI 購(gòu)物新功能 Lens Live，手機(jī)對(duì)著實(shí)物掃掃就能找同款
下一篇： 蘋果再陷版權(quán)漩渦：作家起訴其未經(jīng)授權(quán)用受保護(hù)書籍訓(xùn)練AI大模型
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請(qǐng)聯(lián)系：2376512515@qq.com 津ICP備18001702號(hào)
津公網(wǎng)安備 12010102000574號(hào)
