3 月 13 日消息，據外媒 Ars Technica 報道，Anthropic 首席執行官達里奧?阿莫代伊（Dario Amodei）周一提出了一個令人吃驚的觀點，暗示未來的高級 AI 模型可能會被賦予一種“按鈕”，讓它們能夠在遇到不愉快的任務時選擇退出。78Y28資訊網——每日最新資訊28at.com

78Y28資訊網——每日最新資訊28at.com

阿莫代伊在采訪中表示：“這是另一個讓我看起來像是瘋了的話題。我認為我們至少應該考慮一個問題：如果我們正在構建這些系統，它們能夠像人類一樣執行各種任務，并且似乎擁有許多人類的認知能力。如果它像鴨子一樣叫、像鴨子一樣走，也許它就是鴨子?！?span style="display:none">78Y28資訊網——每日最新資訊28at.com

阿莫代伊的言論是回應數據科學家卡門?多明格斯（Carmem Domingues）提出的一個問題，多明格斯詢問為何 Anthropic 公司在 2024 年底聘請了 AI 福利研究員凱爾?費什（Kyle Fish），讓他研究未來的 AI 模型是否可能具備感知能力，或是否應該在未來獲得道德上的考慮和保護。78Y28資訊網——每日最新資訊28at.com

從報道中獲悉，費什目前正研究 AI 是否能擁有感知能力，以及是否值得享有道德保護這一具有爭議的話題。78Y28資訊網——每日最新資訊28at.com

阿莫代伊解釋說：“我們正在考慮的一項可能的做法是，當我們將模型部署到實際環境中時，給它們一個按鈕，上面寫著‘我放棄這項工作’，這樣模型就可以按下這個按鈕。”78Y28資訊網——每日最新資訊28at.com

其表示，這只是一個非常簡單的偏好框架，假設模型真的具備自主意識，并且非常討厭這份工作，那么它就可以按下這個按鈕?！叭绻惆l現模型經常按下這個按鈕，做一些非常不愉快的事情，也許你應該關注一下 —— 這并不意味著你完全相信，但至少應該留意。”78Y28資訊網——每日最新資訊28at.com

本文鏈接：http://www.www897cc.com/showinfo-45-11524-0.htmlAnthropic CEO 阿莫代伊：未來 AI 或有自我決定權，可拒絕“不爽”的任務

聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com

上一篇： 應對醫護人員超負荷工作壓力，印度最大規模醫院 Apollo 引入 AI 系統

下一篇： Salesforce CEO 炮轟微軟 AI 戰略：把 ChatGPT 包裝成 Copilot，令客戶失望