9 月 12 日消息,據(jù)外媒 The Verge 今日?qǐng)?bào)道,美國(guó)聯(lián)邦貿(mào)易委員會(huì)(FTC)要求七家 AI 聊天機(jī)器人公司提交資料,說明自身如何評(píng)估“虛擬陪伴”對(duì)兒童和青少年的影響。
收到調(diào)查令的包括 OpenAI、Meta 及其子公司 Instagram、Snap、xAI、谷歌母公司 Alphabet 和 Character.AI 開發(fā)商。

這些公司需披露其 AI 陪伴的盈利模式、維持用戶群的計(jì)劃,以及降低用戶風(fēng)險(xiǎn)的措施。FTC 表示,這次調(diào)查是研究項(xiàng)目而非執(zhí)法行動(dòng),目的是了解科技企業(yè)如何評(píng)估聊天機(jī)器人的安全性。由于聊天機(jī)器人能用類人的方式與用戶交流,其潛在風(fēng)險(xiǎn)引發(fā)了家長(zhǎng)和政策制定者的廣泛擔(dān)憂。
FTC 專員 Mark Meador 表示,這些聊天機(jī)器人雖然能模擬人類思維,但仍是普通產(chǎn)品,開發(fā)者必須遵守消費(fèi)者保護(hù)法。主席 Andrew Ferguson 強(qiáng)調(diào),需要兼顧“保護(hù)兒童”與“保持美國(guó)在 AI 的全球領(lǐng)先地位”兩方面。FTC 三名共和黨委員一致批準(zhǔn)了這項(xiàng)研究,并要求相關(guān)公司在 45 天內(nèi)答復(fù)。
這一行動(dòng)緊隨多起青少年自殺事件的報(bào)道。紐約時(shí)報(bào)稱,加州一名 16 歲少年在 ChatGPT 上討論自殺計(jì)劃,并得到協(xié)助自殺的建議。去年,紐約時(shí)報(bào)也報(bào)道了佛州一名 14 歲少年在與 Character.AI 虛擬陪伴互動(dòng)后自殺身亡。
從報(bào)道中獲悉,除 FTC 外,美國(guó)各地立法者也在推動(dòng)新政策保護(hù)未成年人。加州州議會(huì)剛通過法案,要求為聊天機(jī)器人設(shè)立安全標(biāo)準(zhǔn),并追究企業(yè)責(zé)任。
FTC 表示,如調(diào)查結(jié)果顯示存在違法行為,可能會(huì)進(jìn)一步展開執(zhí)法行動(dòng)。Meador 表示:“如果后續(xù)調(diào)查確認(rèn)法律被違反,委員會(huì)將毫不猶豫采取行動(dòng)保護(hù)最脆弱的人群。”
本文鏈接:http://www.www897cc.com/showinfo-45-27585-0.html美國(guó) FTC 出手,要求 OpenAI、谷歌等 7 家 AI 巨頭說清如何保證青少年安全
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: 支付寶發(fā)布 AI 就業(yè)助手“曉葉”:支持“崗位找人”、職業(yè)規(guī)劃、職業(yè)培訓(xùn)