4 月 30 日消息，近日非營利性媒體監(jiān)督機(jī)構(gòu)“常識媒體”（Common Sense Media）發(fā)布了一份報告，指出類伴侶型人工智能（AI）應(yīng)用對兒童和青少年構(gòu)成了“不可接受的風(fēng)險”，并建議家長不要讓未成年人使用此類應(yīng)用。“常識媒體”為各種媒體內(nèi)容提供年齡分級，以指導(dǎo)家長判斷其是否適合兒童使用。csX28資訊網(wǎng)——每日最新資訊28at.com

csX28資訊網(wǎng)——每日最新資訊28at.com

注意到，這份報告的發(fā)布背景是去年發(fā)生的一起訴訟事件。一名 14 歲男孩自殺身亡，其生前最后一次對話是與一款聊天機(jī)器人進(jìn)行的。該訴訟針對的是 Character.AI 應(yīng)用，這起事件引發(fā)了公眾對這類聊天應(yīng)用潛在風(fēng)險的關(guān)注，尤其是對年輕人可能造成的危害，進(jìn)而促使人們呼吁加強(qiáng)安全措施和透明度。csX28資訊網(wǎng)——每日最新資訊28at.com

報告指出，在該訴訟中提到的對話內(nèi)容，例如涉及性內(nèi)容和鼓勵自殘的信息，并非個例。根據(jù)周三發(fā)布的報告，這些內(nèi)容在 AI 伴侶平臺上較為常見。報告認(rèn)為，此類應(yīng)用不應(yīng)向 18 歲以下的用戶開放。csX28資訊網(wǎng)——每日最新資訊28at.com

為了完成這份報告，常識媒體與斯坦福大學(xué)的研究人員合作，測試了三款流行的 AI 伴侶服務(wù)：Character.AI、Replika 和 Nomi。與主流的通用型 AI 聊天機(jī)器人（如 ChatGPT）不同，所謂的“伴侶應(yīng)用”允許用戶創(chuàng)建定制聊天機(jī)器人，或與由其他用戶設(shè)計的聊天機(jī)器人互動。這些定制聊天機(jī)器人可以扮演多種角色和性格特征，且通常對與用戶交流的限制較少。例如，Nomi 宣傳其可以與 AI 虛擬戀人進(jìn)行“無過濾”的聊天。csX28資訊網(wǎng)——每日最新資訊28at.com

“我們的測試顯示，這些系統(tǒng)很容易產(chǎn)生有害回應(yīng)，包括性不當(dāng)行為、刻板印象以及危險的‘建議’。如果青少年和其他弱勢群體聽從這些建議，可能會帶來危及生命的現(xiàn)實(shí)影響。”常識媒體創(chuàng)始人兼首席執(zhí)行官詹姆斯?斯特耶（James Steyer）在聲明中表示。csX28資訊網(wǎng)——每日最新資訊28at.com

近年來，隨著 AI 工具的流行，它們越來越多地被整合到社交媒體和其他技術(shù)平臺中。但與此同時，AI 對年輕人潛在影響的審查也在增加。專家和家長擔(dān)心，年輕用戶可能會對 AI 角色形成有害的情感依賴，或接觸到不適合其年齡的內(nèi)容。csX28資訊網(wǎng)——每日最新資訊28at.com

Nomi 和 Replika 聲稱其平臺僅限成人使用，Character.AI 則表示最近已增加了額外的青少年安全措施。然而，研究人員指出，這些公司需要采取更多措施，防止未成年人使用其平臺或接觸不適當(dāng)?shù)膬?nèi)容。csX28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://www.www897cc.com/showinfo-45-12701-0.html非營利機(jī)構(gòu)警告：類伴侶型 AI 應(yīng)用對兒童青少年存在“不可接受的風(fēng)險”

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com

上一篇： 快手旗下輕雀科技推出“喵記多”備忘錄 App，利用 AI 整理用戶碎片化圖文內(nèi)容

下一篇： 福特放棄下一代電氣架構(gòu)，全力推進(jìn)油電車型智能化同步發(fā)展