當前位置：首頁 > 元宇宙 > AI

員工稱亞馬遜 AI 聊天機器人 Q “幻覺”嚴重，且泄露公司機密數據

來源：責編：時間：2023-12-05 17:08:43 387觀看

導讀 12 月 2 日消息，亞馬遜于今年 11 月底推出名為 Q 的 AI 聊天機器人，不過根據國外科技媒體 Platformer 披露的一份內部文件，亞馬遜員工稱 Q 存在嚴重的“幻覺”問題，并泄露了包括 AWS 數據中心位置、內部折扣計劃

12 月 2 日消息，亞馬遜于今年 11 月底推出名為 Q 的 AI 聊天機器人，不過根據國外科技媒體 Platformer 披露的一份內部文件，亞馬遜員工稱 Q 存在嚴重的“幻覺”問題，并泄露了包括 AWS 數據中心位置、內部折扣計劃等諸多機密信息。

11 月 17 日報道，劍橋詞典（Cambridge Dictionary）近日宣布 2023 年年度詞匯為“hallucinate”（產生幻覺）。

hallucinate 原意為似乎看到、聽到、感覺到或聞到“一些不存在的東西”，通常是指用戶在不良健康或者服用藥物狀態下產生的幻覺。

伴隨著 AI 的崛起，hallucinate 延伸為 AI 產生幻覺，生成錯誤的信息。

報告文件顯示，亞馬遜 Q 會產生幻覺，返回有害或不適當的聊天內容。例如，亞馬遜 Q 會返回過時的安全信息，可能會讓客戶面臨風險。

亞馬遜淡化了員工討論的重要性，并聲稱沒有發現任何安全問題。然而，泄露的文件引發了人們對 Q 準確性和安全性的擔憂，Q 仍處于預覽階段，尚未正式發布。

一名員工將該事件標記為“sev 2”，這意味著該事件非常嚴重，需要工程師加班第一時間修復。

Q 被定位為 ChatGPT 的企業級版本，旨在比消費級工具更安全。然而，內部文件強調了 Q 提供不準確或有害信息的風險。

報道稱 Q 除了存在嚴重的幻覺之外，還泄露了公司機密數據，包括 AWS 數據中心的位置、內部折扣計劃和未發布的功能。

文章發表后，該發言人發布一份聲明，反駁了員工的說法，稱亞馬遜 Q 沒有泄露機密信息。

日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不