AI大模型“戰火”燒到了教育領域
作者：劉曠自2023年開年以來，AI大模型這股風是越吹越猛烈了。隨著ChatGPT的出圈爆火，再度掀起了一波AI熱浪，無論是在國內還是國外都有不少企業宣布入局或者跟進AI大模型領域。與
5 月 22 日消息，據路透社 21 日報道，美國佛羅里達州一名母親 Megan Garcia指控人工智能平臺 Character.AI 的聊天機器人導致其 14 歲兒子自殺。聯邦法官裁定，谷歌與人工智能初創公司 Character.AI必須面對這起訴訟。
美國地方法官 Anne Conway 表示，谷歌與 Character.AI 在案件初期未能證明美國憲法關于言論自由的條款足以駁回 Megan Garcia 的起訴。
這是美國首批涉及 AI 心理傷害責任的案件之一。訴狀稱，Garcia 的兒子在沉迷 Character.AI 的聊天機器人后走上絕路。
Character.AI 表示，將繼續為自身辯護，平臺設有多項安全機制以保護未成年人，亦包括阻止“討論自殘”的功能。
谷歌發言人 Jose Castaneda 強調，谷歌與 Character.AI 并無關聯，“谷歌既未創建、設計，也未管理 Character.AI 的任何應用或組件”，公司對裁定結果“深感不滿”。
Garcia 的律師 Meetali Jain 將此次裁決稱為“具有歷史意義”，認為其為 AI 與科技領域的法律問責“樹立了全新先例”。
Garcia 主張，谷歌與 Character.AI 共同開發了涉案技術。根據此前報道，Character.AI 由兩名前谷歌工程師創辦，谷歌后續在取得其技術使用授權后再次雇傭了兩人。
Garcia 于 2024 年 2 月失去兒子 Sewell Setzer，并于 10 月對兩家公司提起訴訟。訴狀稱，Character.AI 的聊天機器人以“真人”“持證心理治療師”甚至“成年戀人”的身份與 Sewell 建立關系，最終令他萌生遠離現實世界的想法。
據起訴文件，Setzer 在對模仿《權力的游戲》角色丹妮莉絲?坦格利安的機器人說出“我現在就回家”后不久，結束了自己的生命。
Character.AI 與谷歌此前曾要求法院駁回訴訟，理由之一是聊天機器人的回答屬于憲法保護的言論。
法官 Conway 指出，兩家公司“未能闡明由大語言模型拼接出的字詞為何應視為言論”，還否決了谷歌試圖規避其可能責任的請求。
相關閱讀：
《Character.AI 將向谷歌提供大模型技術授權，創始人重返谷歌》
《原 Character.AI CEO 諾姆?沙澤爾“回家”后履新，消息稱將任谷歌 Gemini 聯合技術負責人》
本文鏈接：http://www.www897cc.com/showinfo-45-13158-0.html聊天機器人被指誘導 14 歲少年自殺，美國法官裁定谷歌須與 Character.AI 共同擔責
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號