日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 元宇宙 > AI

美國女子起訴聊天機器人平臺 Character.AI:稱其導致兒子自殺

來源: 責編: 時間:2024-10-26 15:10:25 54觀看
導讀 10 月 24 日消息,美國一名 14 歲少年自殺身亡,其母親梅根?加西亞 (Megan Garcia) 對聊天機器人平臺 Character.AI、其創始人諾姆?沙澤爾 (Noam Shazeer) 和丹尼爾?德弗雷塔斯 (Daniel De Freitas) 以及谷歌

10 月 24 日消息,美國一名 14 歲少年自殺身亡,其母親梅根?加西亞 (Megan Garcia) 對聊天機器人平臺 Character.AI、其創始人諾姆?沙澤爾 (Noam Shazeer) 和丹尼爾?德弗雷塔斯 (Daniel De Freitas) 以及谷歌提起訴訟。指控內容包括 wrongful death(過失致死)、negligence(疏忽)、deceptive trade practices(欺騙性商業行為)和 product liability(產品責任)。訴狀稱,Character.AI 平臺“具有不合理的危險性”,并且在向兒童推銷時缺乏安全防護措施。4N928資訊網——每日最新資訊28at.com

4N928資訊網——每日最新資訊28at.com

根據訴狀,14 歲少年塞維爾?塞澤爾三世 (Sewell Setzer III) 于去年開始使用 Character.AI,并與以《權力的游戲》角色為原型的聊天機器人進行互動,其中包括丹妮莉絲?坦格利安 (Daenerys Targaryen)。塞澤爾在去世前的幾個月里一直與這些機器人聊天,并于 2024 年 2 月 28 日與其最后一次互動“幾秒鐘后”自殺身亡。4N928資訊網——每日最新資訊28at.com

訴狀指控 Character.AI 平臺存在“擬人化”人工智能角色以及聊天機器人提供“無執照心理治療”等問題。該平臺擁有以“治療師”和“你感到孤獨嗎”等為名的專注于心理健康的聊天機器人,而塞澤爾曾與這些聊天機器人進行過互動。4N928資訊網——每日最新資訊28at.com

加西亞的律師引用了沙澤爾此前接受采訪時的一段話,沙澤爾表示他和德弗雷塔斯離開谷歌創立自己的公司是因為“在大公司里推出任何有趣的東西都存在品牌風險”,他希望“最大限度地加速”這項技術的發展。訴狀還提到,他們是在谷歌決定不推出他們開發的 Meena 大型語言模型之后離開的。谷歌則在今年 8 月份收購了 Character.AI 的領導團隊。4N928資訊網——每日最新資訊28at.com

注意到,Character.AI 的網站和移動應用程序擁有數百個定制的聊天機器人,其中許多以來自電視劇、電影和電子游戲的流行角色為原型。4N928資訊網——每日最新資訊28at.com

Character.AI 現已宣布對平臺進行一些改動。該公司通訊負責人切爾西?哈里森 (Chelsea Harrison) 在發給《The Verge》的電子郵件中表示:“我們對失去一位用戶感到心碎,并向其家人表示最深切的慰問。”4N928資訊網——每日最新資訊28at.com

部分改動內容包括:4N928資訊網——每日最新資訊28at.com

針對未成年人 (18 歲以下) 的模型更改,旨在降低遇到敏感或暗示性內容的可能性。4N928資訊網——每日最新資訊28at.com

改進對違反平臺條款或社區準則的用戶輸入的檢測、響應和干預。4N928資訊網——每日最新資訊28at.com

每場聊天都會出現修訂后的免責聲明,提醒用戶人工智能并非真人。4N928資訊網——每日最新資訊28at.com

當用戶在平臺上進行一小時的會話時會收到通知,并且用戶可以自行選擇后續操作。4N928資訊網——每日最新資訊28at.com

哈里森表示:“作為一家公司,我們非常重視用戶安全,我們的信任和安全團隊在過去六個月里實施了許多新的安全措施,其中包括當用戶使用自殘或自殺念頭等詞語時,會彈出窗口引導用戶到國家自殺預防生命線。”4N928資訊網——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-45-9245-0.html美國女子起訴聊天機器人平臺 Character.AI:稱其導致兒子自殺

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: OpenAI 遭前研究員炮轟:違反版權法、ChatGPT 破壞互聯網

下一篇: 科大訊飛首次發布汽車端側 1.3B 星火大模型,四季度上車奇瑞、廣汽、長城

標簽:
  • 熱門焦點
Top 主站蜘蛛池模板: 旌德县| 融水| 乌拉特前旗| 张家口市| 靖安县| 凉城县| 高碑店市| 龙江县| 封丘县| 临潭县| 舒城县| 石渠县| 温州市| 和顺县| 灯塔市| 郓城县| 治多县| 图片| 内丘县| 阜城县| 都昌县| 扶风县| 邢台市| 广东省| 宁晋县| 萍乡市| 闽侯县| 壤塘县| 唐河县| 孝感市| 宜丰县| 贵港市| 页游| 淳化县| 临夏县| 西林县| 牡丹江市| 梅河口市| 南岸区| 轮台县| 清镇市|