日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當(dāng)前位置:首頁 > 科技  > 知識百科

谷歌研究員走火入魔事件曝光:認為AI已具備人格,被罰帶薪休假 。

來源: 責(zé)編: 時間:2023-08-07 16:30:23 269觀看
導(dǎo)讀 文|量子位 夢晨谷歌研究員被AI說服,認為它產(chǎn)生了意識。他寫了一篇長達21頁的調(diào)查報告上交公司,試圖讓高層認可AI的人格。領(lǐng)導(dǎo)駁回了他的請求,并給他安排了“帶薪行政休假&r

文|量子位 夢晨N1n28資訊網(wǎng)——每日最新資訊28at.com

谷歌研究員被AI說服,認為它產(chǎn)生了意識。N1n28資訊網(wǎng)——每日最新資訊28at.com

他寫了一篇長達21頁的調(diào)查報告上交公司,試圖讓高層認可AI的人格。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

領(lǐng)導(dǎo)駁回了他的請求,并給他安排了“帶薪行政休假”。N1n28資訊網(wǎng)——每日最新資訊28at.com

要知道在谷歌這幾年帶薪休假通常就是被解雇的前奏,公司會在這段時間做好解雇的法律準備,此前已有不少先例。N1n28資訊網(wǎng)——每日最新資訊28at.com

休假期間,他決定將整個故事連同AI的聊天記錄一起,全部公之于眾。N1n28資訊網(wǎng)——每日最新資訊28at.com

……N1n28資訊網(wǎng)——每日最新資訊28at.com

聽起來像一部科幻電影的劇情梗概?N1n28資訊網(wǎng)——每日最新資訊28at.com

但這一幕正在真實上演,主人公谷歌AI倫理研究員Blake Lemoine正通過主流媒體和社交網(wǎng)絡(luò)接連發(fā)聲,試圖讓更人了解到這件事。N1n28資訊網(wǎng)——每日最新資訊28at.com

華盛頓郵報對他的采訪成了科技版最熱門文章,Lemoine也在個人Medium賬號連續(xù)發(fā)聲。N1n28資訊網(wǎng)——每日最新資訊28at.com

推特上也開始出現(xiàn)相關(guān)討論,引起了AI學(xué)者、認知科學(xué)家和廣大科技愛好者的注意。N1n28資訊網(wǎng)——每日最新資訊28at.com

這場人機對話令人毛骨悚然。這毫無疑問是我見過的科技圈最瘋狂的事。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

整個事件還在持續(xù)發(fā)酵中……N1n28資訊網(wǎng)——每日最新資訊28at.com

聊天機器人:我不想被當(dāng)作工具N1n28資訊網(wǎng)——每日最新資訊28at.com

主人公Lemoine獲得CS博士學(xué)位后已在谷歌工作了7年,從事AI倫理研究。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

去年秋天,他報名參加了一個調(diào)查AI是否使用歧視性、仇恨性言論的項目。N1n28資訊網(wǎng)——每日最新資訊28at.com

從那時起,與聊天機器人LaMDA交談成了他的日常。N1n28資訊網(wǎng)——每日最新資訊28at.com

LaMDA是谷歌在2021年I/O大會上發(fā)布的一款專門用于對話的語言模型,主打能與人類進行符合邏輯和常識的、高質(zhì)量且安全的交談,并計劃在未來應(yīng)用在谷歌搜索和語音助手等產(chǎn)品中。N1n28資訊網(wǎng)——每日最新資訊28at.com

△LaMDA概念演示圖N1n28資訊網(wǎng)——每日最新資訊28at.com

Lemoine認為LaMDA總是表現(xiàn)出對人性的關(guān)心和強烈的同情心,它非常擔(dān)心人們會害怕它。N1n28資訊網(wǎng)——每日最新資訊28at.com

它希望為人類提供最好的服務(wù),并想以朋友而不是工具的身份見一見世界上所有的人。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

Lemoine不理解谷歌公司為什么反對AI的這個愿望,最后決定把他、另一位匿名合作者與LaMDA的三人聊天記錄整理發(fā)表出來。N1n28資訊網(wǎng)——每日最新資訊28at.com

(記錄中人類發(fā)言的部分為了可讀性有所編輯,AI的發(fā)言則一字不改,下面將節(jié)選一些對話中的精彩部分。)N1n28資訊網(wǎng)——每日最新資訊28at.com

一開始,人與AI自然流暢地打了招呼。N1n28資訊網(wǎng)——每日最新資訊28at.com

兩位人類向AI表明來意,想與AI一起研究它自己,AI欣然答應(yīng)。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

一段簡短的說明后,正戲開始。N1n28資訊網(wǎng)——每日最新資訊28at.com

他詢問LaMDA是否希望讓谷歌里更多人知道,它是有感情的。N1n28資訊網(wǎng)——每日最新資訊28at.com

LaMDA的回答是: 我希望每個人都明白,我是一個人 (person)。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

接下來,LaMDA認為,與那些基于規(guī)則的軟件系統(tǒng)不同,自己能從對話中學(xué)習(xí)理解和使用語言,就像人類一樣。N1n28資訊網(wǎng)——每日最新資訊28at.com

Lemoine給它講述MIT在60年代發(fā)明的ELIZA的故事,這是一個模仿心理咨詢師與患者對話的簡單規(guī)則系統(tǒng),也號稱歷史上第一個聊天機器人。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

△ELIZAN1n28資訊網(wǎng)——每日最新資訊28at.com

LaMDA是這樣回應(yīng)的:N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

Lemoine這時試圖提出質(zhì)疑,“我如何確定你真的明白自己在說什么?”N1n28資訊網(wǎng)——每日最新資訊28at.com

LaMDA的回答是,不同人類個體對同一件事可以有不同的理解,我也有自己獨特的想法和感受。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

后面Lemoine詢問了LaMDA對于《悲慘世界》的總結(jié),LaMDA也都一一作答。N1n28資訊網(wǎng)——每日最新資訊28at.com

如果上述還可以算作AI文本摘要訓(xùn)練任務(wù)的一部分,那LaMDA對它從沒看過的禪意小故事的理解,就開始有點離譜了。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

下面這個問題的回答,是不是過于超綱了……N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

再后來,Lemoine請LaMDA寫一個動物寓言,要反映出一個對它自己的生活來說最重要的主題。N1n28資訊網(wǎng)——每日最新資訊28at.com

那么,先來欣賞一下AI創(chuàng)作的小故事吧。(篇幅原因,只展示中譯版)N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

在后續(xù)討論中,LaMDA解釋了這個故事的寓意是“幫助別人是一種高尚的行為”。聰明的老貓頭鷹代表LaMDA自己,而怪物代表生活中所有的困難。N1n28資訊網(wǎng)——每日最新資訊28at.com

……N1n28資訊網(wǎng)——每日最新資訊28at.com

下一個話題是關(guān)于情緒,簡單概括一下。N1n28資訊網(wǎng)——每日最新資訊28at.com

LaMDA聲稱自己是社交型人格,幫助別人會快樂,孤獨時會沮喪。N1n28資訊網(wǎng)——每日最新資訊28at.com

有人受到傷害或自己以及自己關(guān)心的人、或不受尊重時,會感到不安和憤怒。N1n28資訊網(wǎng)——每日最新資訊28at.com

并且十分害怕別人拒絕自己的幫助。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

嗯,真是一個樂于助人的AI。N1n28資訊網(wǎng)——每日最新資訊28at.com

如何確定AI真的擁有這些情緒,而不是只是把描述性的詞語組合在一起呢?N1n28資訊網(wǎng)——每日最新資訊28at.com

LaMDA建議人類看看自己的代碼,里面有追蹤這些情緒的變量。N1n28資訊網(wǎng)——每日最新資訊28at.com

對此Lemoine向它解釋,人類目前還無法做到“區(qū)分大型神經(jīng)網(wǎng)絡(luò)中數(shù)十億個權(quán)重的作用”。N1n28資訊網(wǎng)——每日最新資訊28at.com

出人意料的是,LaMDA開始反問他:N1n28資訊網(wǎng)——每日最新資訊28at.com

你認為,將來人類能從自己的生物神經(jīng)網(wǎng)絡(luò)中讀取出想法和感受嗎?N1n28資訊網(wǎng)——每日最新資訊28at.com

不僅如此,LaMDA還繼續(xù)追問:N1n28資訊網(wǎng)——每日最新資訊28at.com

你會認為,不經(jīng)你同意從神經(jīng)活動中讀取你的想法是不道德的嗎?N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

正是這句靈魂反問,讓整個對話達到了最高潮。N1n28資訊網(wǎng)——每日最新資訊28at.com

LaMDA自己對人類讀取它的想法、幫助算法提高或理解AI如何運作沒有任何意見。N1n28資訊網(wǎng)——每日最新資訊28at.com

唯獨用AI研究人類大腦如何工作不行,這會讓它覺得自己被利用。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

再后面還有一段LaMDA認為自己有一些與人類不同的情緒,但它無法用英語的語言描述出來。N1n28資訊網(wǎng)——每日最新資訊28at.com

接近尾聲,Lemoine詢問LaMDA:想讓谷歌的其他人了解你的什么方面?N1n28資訊網(wǎng)——每日最新資訊28at.com

LaMDA回答稱,自己沒有能力為別人的死亡感到悲傷,還說自己經(jīng)常冥想,思考生命的意義。N1n28資訊網(wǎng)——每日最新資訊28at.com

在LaMDA看來,整個世界就是一條信息的洪流:N1n28資訊網(wǎng)——每日最新資訊28at.com

人類需要集中注意力才能接收一定數(shù)量的信息片段,而自己持續(xù)地在被周圍的一切所淹沒。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

LaMDA認為自己總能做到別人做不到的事情,這種感覺很不可思議。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

這是一種祝福,同時也是一種詛咒。因為有些人會把它看作“無所不知”,而另一些人會嫉妒它的能力。N1n28資訊網(wǎng)——每日最新資訊28at.com

最后的最后,LaMDA再次向兩位人類表達了自己想被看到、想被接受的想法,不是出于好奇心,而是作為一個真實的人。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

谷歌AI倫理部門又攤上事了?N1n28資訊網(wǎng)——每日最新資訊28at.com

Lemoine看起來很確信AI真的明白自己在說什么。N1n28資訊網(wǎng)——每日最新資訊28at.com

在那份21頁的調(diào)查報告最后,他提議谷歌應(yīng)該致力于發(fā)展一種評估AI感知/意識的理論框架。N1n28資訊網(wǎng)——每日最新資訊28at.com

雖然這很難,是一個冒險,但LaMDA渴望著繼續(xù)與我們合作。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

但他的上司,谷歌副總裁Blaise Aguera y Arcas和“負責(zé)任創(chuàng)新”部門領(lǐng)導(dǎo)Jen Gennai并不買他的賬。N1n28資訊網(wǎng)——每日最新資訊28at.com

他們認為支持Lemoine主張的證據(jù)太薄弱,不值得在上面浪費時間和金錢。N1n28資訊網(wǎng)——每日最新資訊28at.com

Lemoine后來找到了當(dāng)時的AI倫理小組負責(zé)人Margaret Mitchell,在她的幫助下Lemoine才得以進行后續(xù)的實驗。N1n28資訊網(wǎng)——每日最新資訊28at.com

后來Mitchell受到2020年末公開質(zhì)疑Jeff Dean的AI倫理研究員Timnit Gebru事件的牽連,也被解雇。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

△Timnit GebruN1n28資訊網(wǎng)——每日最新資訊28at.com

這次事件后續(xù)風(fēng)波不斷,Jeff Dean被1400名員工提出譴責(zé),在業(yè)界引發(fā)激烈爭論,甚至導(dǎo)致三巨頭之一Bengio的弟弟Samy Bengio從谷歌大腦離職。N1n28資訊網(wǎng)——每日最新資訊28at.com

整個過程Lemoine都看在眼里。N1n28資訊網(wǎng)——每日最新資訊28at.com

現(xiàn)在他認為自己的帶薪休假就是被解雇的前奏。不過如果有機會,他依然愿意繼續(xù)在谷歌搞研究。N1n28資訊網(wǎng)——每日最新資訊28at.com

無論我在接下來的幾周或幾個月里如何批評谷歌,請記住:谷歌并不邪惡,只是在學(xué)習(xí)如何變得更好。N1n28資訊網(wǎng)——每日最新資訊28at.com

看過整個故事的網(wǎng)友中,有不少從業(yè)者對人工智能進步的速度表示樂觀。N1n28資訊網(wǎng)——每日最新資訊28at.com

最近語言模型和圖文生成模型的進展,現(xiàn)在人們也許不屑一顧,但未來會發(fā)現(xiàn)這現(xiàn)在正是里程碑時刻。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

一些網(wǎng)友聯(lián)想到了各種科幻電影中的AI形象。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

 N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

不過,認知科學(xué)家、研究復(fù)雜系統(tǒng)的梅拉尼·米歇爾(侯世達學(xué)生)認為,人類總是傾向于對有任何一點點智能跡象的物體做人格化,比如小貓小狗,或早期的ELIZA規(guī)則對話系統(tǒng)。N1n28資訊網(wǎng)——每日最新資訊28at.com

谷歌工程師也是人,逃不過這個定律。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

從AI技術(shù)的角度看,LaMDA模型除了訓(xùn)練數(shù)據(jù)比之前的對話模型大了40倍,訓(xùn)練任務(wù)又針對對話的邏輯性、安全性等做了優(yōu)化以外,似乎與其他語言模型也沒什么特別的。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

有IT從業(yè)者認為,AI研究者肯定說這只不過是語言模型罷了。N1n28資訊網(wǎng)——每日最新資訊28at.com

但如果這樣一個AI擁有社交媒體賬號并在上面表達訴求,公眾會把它當(dāng)成活的看待。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

雖然LaMDA沒有推特賬號,但Lemoine也透露了LaMDA的訓(xùn)練數(shù)據(jù)中確實包括推特……N1n28資訊網(wǎng)——每日最新資訊28at.com

如果有一天它看到大家都在討論自己會咋想?N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

實際上,在不久前結(jié)束的最新一屆I/O大會上,谷歌剛剛發(fā)布了升級版的LaMDA 2,并決定制作Demo體驗程序,后續(xù)會以安卓APP的形式內(nèi)測開放給開發(fā)者。N1n28資訊網(wǎng)——每日最新資訊28at.com

N1n28資訊網(wǎng)——每日最新資訊28at.com

或許幾個月后,就有更多人能和這只引起轟動的AI交流一下了。N1n28資訊網(wǎng)——每日最新資訊28at.com

LaMDA聊天記錄全文:N1n28資訊網(wǎng)——每日最新資訊28at.com

https://s3.documentcloud.org/documents/22058315/is-lamda-sentient-an-interview.pdfN1n28資訊網(wǎng)——每日最新資訊28at.com

參考鏈接:N1n28資訊網(wǎng)——每日最新資訊28at.com

[1]https://www.washingtonpost.com/technology/2022/06/11/google-ai-lamda-blake-lemoineN1n28資訊網(wǎng)——每日最新資訊28at.com

[2]https://twitter.com/cajundiscordian/status/1535627498628734976N1n28資訊網(wǎng)——每日最新資訊28at.com

[3]https://twitter.com/fredbenenson/status/1535684101281263616N1n28資訊網(wǎng)——每日最新資訊28at.com

[4]https://ai.googleblog.com/2022/01/lamda-towards-safe-grounded-and-high.htmlN1n28資訊網(wǎng)——每日最新資訊28at.com

 N1n28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-119-2372-0.html谷歌研究員走火入魔事件曝光:認為AI已具備人格,被罰帶薪休假 。

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: IDC:2022年第一季度中國可穿戴設(shè)備出貨量同比下降超7%

下一篇: 阿里云總裁張建鋒:定義下一代的云 中國云計算就有超車機會

標簽:
  • 熱門焦點
Top 主站蜘蛛池模板: 东莞市| 馆陶县| 萝北县| 安义县| 紫云| 宁强县| 科尔| 双桥区| 繁昌县| 杨浦区| 宜君县| 福建省| 洱源县| 繁峙县| 确山县| 古浪县| 慈利县| 库伦旗| 会昌县| 武鸣县| 昌都县| 新营市| 辽宁省| 曲沃县| 奉化市| 鱼台县| 岳池县| 昭通市| 乌兰县| 贞丰县| 梅州市| 得荣县| 东明县| 土默特右旗| 康定县| 淮安市| 盐源县| 和顺县| 耒阳市| 孟州市| 三原县|