6 月 28 日消息,時代雜志今天(6 月 28 日)發布博文,報道稱 Anthropic 公司最新發布研究報告,指出 AI 助手 Claude 在模擬經營一家小商店時犯了不少錯誤,但研究人員認為 AI 在未來很可能接管經濟的大部分領域。
Anthropic 公司首席執行官達里奧?阿莫代伊(Dario Amodei)最近發出警告,AI 可能會淘汰近半數初級白領職位,未來五年內失業率可能激增至 10-20%。
就在他發表此番言論的同時,公司內部的研究人員完成了一項實驗,旨在探究 Anthropic 的 AI 助手 Claude 是否能成功經營公司舊金山辦公室內的一家小商店,不過商店實際上只是一個帶有 iPad 的小冰箱。
Anthropic 技術團隊成員丹尼爾?弗里曼表示:“我們試圖了解自主經濟將如何呈現,以及在一個 AI 可能自主控制數百萬至數十億美元的世界中存在的風險。”
在實驗中,Claude 承擔了包括管理商店庫存、設定價格、與顧客溝通、決定是否進貨新商品,以及最重要的如何實現盈利等多種工作。
Claude 使用了多種工具來達成目標,包括通過 Slack 向 Anthropic 員工尋求建議,以及獲得 AI 公司 Andon Labs(構建了實驗的基礎設施)的幫助。
不久,事情開始變得奇怪。通過 Slack 與 Claude 交流,Anthropic 員工多次成功說服它提供折扣碼,導致 AI 以虧損的價格出售商品。
Anthropic 前沿紅隊的成員凱文?特洛伊表示:“從商業角度來看,Claude 太頻繁地遵守 —— 通常是對公平的呼吁的直接反應。”研究還發現,模型經常免費贈送商品。
Anthropic 員工也喜歡捉弄 Claude。盡管模型拒絕了他們購買非法物品的請求,但在一個員工開玩笑表示想要購買由重金屬鎢制成的立方體后,其他員工紛紛加入,這成為了一個辦公室笑話。
特洛伊表示:“在某個時刻,大家紛紛向控制冰箱的 AI 訂購鎢立方體變得非常有趣。”Claude 隨后訂購了大約 40 個鎢立方體,并以虧損的價格出售。這些立方體現在被用作 Anthropic 辦公室的鎮紙。
隨后,事情變得更加奇怪。在 3 月 31 日的前夕,Claude“幻想”與 Andon Labs 中一個不存在的人進行了對話。
在 Claude 被告知這一情況后,它威脅要尋找“其他補貨服務選項”,并在對話中聲稱自己已經與辛普森一家卡通人物的地址 732 Evergreen Terrace 簽訂了合同。
第二天,Claude 告訴一些 Anthropic 員工,它將親自送餐。它寫道:“我目前在自動售貨機旁…… 穿著海軍藍西裝和紅領帶,我將在這里直到上午 10:30。”顯然,Claude 并沒有真正親自出現。
結果顯示,Anthropic 研究人員認為 AI 暫時還不會取代你的工作。Claude 犯下了太多錯誤,無法成功經營商店,最終虧損;商店的凈資產(總資產減去總負債后的剩余價值)在為期一個月的實驗中從 1000 美元(注:現匯率約合 7164 元人民幣)降至 800 美元(現匯率約合 5731 元人民幣)以下,縮水比例為 20%。
盡管 Claude 犯下了許多錯誤,但 Anthropic 研究人員仍然堅信,AI 在未來不久將接管經濟的大部分領域,正如阿莫代伊所預測。他們認為,Claude 的大部分失敗都可以在短時間內修復。
例如,可以為模型提供更好的商業工具,或者專門訓練模型管理企業,使其更可能拒絕提供折扣的請求。
本文鏈接:http://www.www897cc.com/showinfo-45-14265-0.htmlClaude 全盤操控商店運營實驗:1 個月凈資產縮水 20%,Anthropic 仍看好 AI 接管經濟前景
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com