數字人的AB面：在元宇宙中過氣，在AIGC中重生
來源：光錐智能作者：郝 鑫“29800元一年的虛擬主播，號稱24小時不停播，月入十幾萬，實際上卻是關鍵詞都不能回復，播了半個月，直播間還因違規被快手封禁，最終投訴無門、退款無果。&
4 月 30 日消息，近日非營利性媒體監督機構“常識媒體”（Common Sense Media）發布了一份報告，指出類伴侶型人工智能（AI）應用對兒童和青少年構成了“不可接受的風險”，并建議家長不要讓未成年人使用此類應用?！俺ＷR媒體”為各種媒體內容提供年齡分級，以指導家長判斷其是否適合兒童使用。
注意到，這份報告的發布背景是去年發生的一起訴訟事件。一名 14 歲男孩自殺身亡，其生前最后一次對話是與一款聊天機器人進行的。該訴訟針對的是 Character.AI 應用，這起事件引發了公眾對這類聊天應用潛在風險的關注，尤其是對年輕人可能造成的危害，進而促使人們呼吁加強安全措施和透明度。
報告指出，在該訴訟中提到的對話內容，例如涉及性內容和鼓勵自殘的信息，并非個例。根據周三發布的報告，這些內容在 AI 伴侶平臺上較為常見。報告認為，此類應用不應向 18 歲以下的用戶開放。
為了完成這份報告，常識媒體與斯坦福大學的研究人員合作，測試了三款流行的 AI 伴侶服務：Character.AI、Replika 和 Nomi。與主流的通用型 AI 聊天機器人（如 ChatGPT）不同，所謂的“伴侶應用”允許用戶創建定制聊天機器人，或與由其他用戶設計的聊天機器人互動。這些定制聊天機器人可以扮演多種角色和性格特征，且通常對與用戶交流的限制較少。例如，Nomi 宣傳其可以與 AI 虛擬戀人進行“無過濾”的聊天。
“我們的測試顯示，這些系統很容易產生有害回應，包括性不當行為、刻板印象以及危險的‘建議’。如果青少年和其他弱勢群體聽從這些建議，可能會帶來危及生命的現實影響?！背ＷR媒體創始人兼首席執行官詹姆斯?斯特耶（James Steyer）在聲明中表示。
近年來，隨著 AI 工具的流行，它們越來越多地被整合到社交媒體和其他技術平臺中。但與此同時，AI 對年輕人潛在影響的審查也在增加。專家和家長擔心，年輕用戶可能會對 AI 角色形成有害的情感依賴，或接觸到不適合其年齡的內容。
Nomi 和 Replika 聲稱其平臺僅限成人使用，Character.AI 則表示最近已增加了額外的青少年安全措施。然而，研究人員指出，這些公司需要采取更多措施，防止未成年人使用其平臺或接觸不適當的內容。
本文鏈接：http://www.www897cc.com/showinfo-45-12701-0.html非營利機構警告：類伴侶型 AI 應用對兒童青少年存在“不可接受的風險”
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號