三院士三教授熱聊元宇宙&——AIGC，學(xué)術(shù)界怎么看？
來源：清元宇宙在近日舉辦的中國江寧2023元宇宙產(chǎn)業(yè)·人才高峰論壇暨AIGC發(fā)展大會上，中國工程院院士譚建榮、劉韻潔、鄭緯民出席并發(fā)表了主旨演講。除了三大院士，還有清華
9 月 17 日消息，圭多?賴希施塔特（Guido Reichstadter）已絕食 17 天，他表示自己目前狀態(tài)尚可，只是行動(dòng)稍緩，但并無大礙。
據(jù) TheVerge 報(bào)道，自 9 月 2 日起，賴希施塔特每天都會出現(xiàn)在人工智能初創(chuàng)公司 Anthropic 的舊金山總部外，從上午 11 點(diǎn)左右一直堅(jiān)守到下午 5 點(diǎn)。他手持的黑板標(biāo)語上寫著“絕食抗議：第 15 天”，但事實(shí)上，他從 8 月 31 日就已停止進(jìn)食。這條標(biāo)語向 Anthropic 提出訴求：“停止通用人工智能（AGI）競賽”。所謂通用人工智能，指的是具備與人類相當(dāng)甚至超越人類認(rèn)知能力的人工智能系統(tǒng)。
注意到，通用人工智能一直是科技公司 CEO 們熱衷的“戰(zhàn)斗口號”，無論是大型科技企業(yè)還是初創(chuàng)公司的領(lǐng)導(dǎo)者，都在競相爭奪這一具有主觀性的里程碑。但在賴希施塔特看來，這些公司完全沒有正視通用人工智能帶來的生存風(fēng)險(xiǎn)。“這些前沿企業(yè)的目標(biāo)，都是研發(fā)出具備人類水平、甚至超越人類水平的通用人工智能系統(tǒng)，也就是超級智能，”他在接受采訪時(shí)表示，“我認(rèn)為這種行為極其瘋狂，充滿風(fēng)險(xiǎn)，而且是極大的風(fēng)險(xiǎn)。我認(rèn)為現(xiàn)在必須立刻停止。”在他看來，絕食抗議是吸引人工智能領(lǐng)域領(lǐng)導(dǎo)者關(guān)注的最直接方式。而如今，持這種想法并采取行動(dòng)的并非他一人。
賴希施塔特提到了 2023 年 Anthropic 首席執(zhí)行官達(dá)里奧?阿莫代（Dario Amodei）的一次采訪，他認(rèn)為這次采訪充分體現(xiàn)了人工智能行業(yè)的魯莽。阿莫代當(dāng)時(shí)表示：“我認(rèn)為，人工智能技術(shù)發(fā)展導(dǎo)致人類文明遭遇災(zāi)難性后果的概率，可能在 10% 到 25% 之間。”阿莫代及其他行業(yè)人士認(rèn)為，通用人工智能的發(fā)展是不可避免的，他們聲稱自己的目標(biāo)只是成為“盡可能負(fù)責(zé)任的守護(hù)者”。但在賴希施塔特眼中，這種說法是“虛構(gòu)的謊言”，也是“自私自利的借口”。
在賴希施塔特看來，企業(yè)有責(zé)任避免研發(fā)可能對大規(guī)模人群造成傷害的技術(shù)；而任何了解這一風(fēng)險(xiǎn)的人，也都肩負(fù)著一定的責(zé)任。
“我現(xiàn)在所做的一切，本質(zhì)上就是在履行自己的責(zé)任。我只是一個(gè)普通公民，但我尊重同胞們的生命與福祉，也關(guān)心我的國家民眾，”他說，“更何況，我還有兩個(gè)孩子。”
截至目前，Anthropic 尚未對置評請求作出回應(yīng)。
賴希施塔特表示，每天在 Anthropic 總部外準(zhǔn)備抗議時(shí)，他都會向公司的安保人員揮手致意；而當(dāng) Anthropic 的員工路過時(shí)，大多會刻意避開他的目光。不過他提到，至少有一名員工向他表達(dá)了類似的“災(zāi)難性風(fēng)險(xiǎn)擔(dān)憂”。他希望能激勵(lì)人工智能公司的員工“有勇氣像人一樣行動(dòng)，而非公司的工具”，因?yàn)樗麄兗缲?fù)著更重大的責(zé)任，畢竟“他們正在研發(fā)的是地球上最危險(xiǎn)的技術(shù)”。
在人工智能安全領(lǐng)域，無數(shù)人都與他有著同樣的擔(dān)憂。該領(lǐng)域的圈子相對分散，對于人工智能長期來看可能帶來的具體風(fēng)險(xiǎn)，以及如何有效防范這些風(fēng)險(xiǎn)，存在諸多分歧，就連“人工智能安全”這一術(shù)語本身，也充滿爭議。但大多數(shù)人能達(dá)成共識的一點(diǎn)是：人工智能當(dāng)前的發(fā)展方向，對人類而言并非好兆頭。
賴希施塔特透露，大約 25 年前上大學(xué)時(shí)，他第一次了解到“人類水平人工智能”的潛在可能，當(dāng)時(shí)他覺得這一技術(shù)還十分遙遠(yuǎn)。但 2022 年 ChatGPT 發(fā)布后，他開始高度關(guān)注這一領(lǐng)域。他特別擔(dān)憂的是，在他看來，人工智能正在加劇美國的威權(quán)主義傾向。
“我關(guān)心我們的社會，”他說，“我關(guān)心我的家人，關(guān)心他們的未來。我擔(dān)心人工智能的發(fā)展會對他們產(chǎn)生影響。我擔(dān)心人工智能的應(yīng)用缺乏倫理約束。同時(shí)，我也擔(dān)心有充分理由相信，人工智能不僅帶來災(zāi)難性風(fēng)險(xiǎn)，甚至可能威脅人類的生存。”
近幾個(gè)月來，為了讓科技領(lǐng)域的領(lǐng)導(dǎo)者關(guān)注這一他認(rèn)為至關(guān)重要的議題，賴希施塔特采取了一系列越來越公開的行動(dòng)。他此前曾與一個(gè)名為“停止人工智能”（Stop AI）的組織合作，該組織致力于“永久禁止超級智能人工智能系統(tǒng)，以防止人類滅絕、大規(guī)模失業(yè)及其他諸多問題”。今年 2 月，他與該組織的其他成員一同將 OpenAI 舊金山辦公室的門鎖住，包括他在內(nèi)的數(shù)人因妨礙公共秩序被警方逮捕。
9 月 2 日，賴希施塔特通過 Anthropic 的安保前臺，向阿莫代遞交了一封手寫信件；幾天后，他將這封信公之于眾。信中要求阿莫代停止研發(fā)“自己無法掌控的技術(shù)”，并盡自己所能在全球范圍內(nèi)阻止人工智能競賽；若阿莫代不愿這么做，需向他說明理由。賴希施塔特在信中寫道：“為了我的孩子，也因?yàn)樯钪?dāng)前局勢的緊迫性與嚴(yán)重性，我已在 Anthropic 辦公室外開始絕食抗議…… 等待您的回應(yīng)。”
“我希望他能有最基本的禮貌，回應(yīng)我的請求，”賴希施塔特表示，“我認(rèn)為這些（人工智能公司的領(lǐng)導(dǎo)者）從未真正受到過個(gè)人層面的質(zhì)問。匿名地、抽象地‘思考自己的工作可能導(dǎo)致大量人員死亡’，與‘面對一位可能因自己的工作而受害的人，以人的身份向?qū)Ψ浇忉屧颉耆莾纱a事。”
在賴希施塔特發(fā)起這場和平抗議后不久，兩名受他啟發(fā)的人在倫敦發(fā)起了類似行動(dòng)，持續(xù)在谷歌 DeepMind 總部外抗議；另有一人在印度加入抗議行列，并通過直播記錄自己的絕食過程。
邁克爾?特拉齊（Michael Trazzi）參與了倫敦的絕食抗議，7 天后因兩次險(xiǎn)些暈倒，并在咨詢醫(yī)生后選擇停止絕食，但他仍在支持另一名抗議者丹尼斯?舍雷梅特（Denys Sheremet），舍雷梅特目前已絕食 10 天。特拉齊與賴希施塔特一樣，對人工智能持續(xù)發(fā)展背景下人類的未來感到擔(dān)憂，但兩人都不愿將自己歸為某一特定團(tuán)體或組織的成員。
特拉齊表示，自 2017 年起，他就開始思考人工智能的風(fēng)險(xiǎn)。他給 DeepMind 首席執(zhí)行官德米斯?哈薩比斯（Demis Hassabis）寫了一封信，不僅公開發(fā)布，還通過中間人轉(zhuǎn)交。
信中，特拉齊請求哈薩比斯“從今天起，為協(xié)調(diào)未來暫停超級智能研發(fā)邁出第一步，公開聲明：若西方及中國的所有其他主要人工智能公司均同意暫停前沿人工智能模型的研發(fā)，DeepMind 也將同意暫停。一旦所有主要公司均同意暫停，各國政府便可推動(dòng)達(dá)成國際協(xié)議，以強(qiáng)制落實(shí)這一決定。”
特拉齊在接受采訪時(shí)表示：“如果不是因?yàn)槿斯ぶ悄艽嬖跇O大危險(xiǎn)，我不會如此支持監(jiān)管。但我認(rèn)為…… 世界上有些事物，其發(fā)展動(dòng)力在默認(rèn)情況下會走向錯(cuò)誤方向。而人工智能領(lǐng)域，確實(shí)需要監(jiān)管。”
谷歌 DeepMind 傳播總監(jiān)阿曼達(dá)?卡爾?普拉特（Amanda Carl Pratt）在一份聲明中表示：“人工智能領(lǐng)域發(fā)展迅速，人們對這項(xiàng)技術(shù)難免有不同看法。我們堅(jiān)信，人工智能有潛力推動(dòng)科學(xué)進(jìn)步，改善數(shù)十億人的生活。在我們構(gòu)建‘人類從技術(shù)中受益、同時(shí)免受風(fēng)險(xiǎn)侵害’的未來過程中，安全、保障與負(fù)責(zé)任的治理始終是我們的首要任務(wù)，過去如此，現(xiàn)在亦然。”
特拉齊在社交平臺 X（原推特）上發(fā)帖稱，這次絕食抗議引發(fā)了他與眾多科技公司員工的討論。他提到，一名 Meta 員工問他：“為什么只針對谷歌的人？我們也在做重要的工作，我們同樣身處這場競賽之中。”
他還在帖文中表示，一名 DeepMind 員工稱，人工智能公司“可能不會發(fā)布可能造成災(zāi)難性傷害的模型，因?yàn)闄C(jī)會成本太高”；而另一名 DeepMind 員工則“承認(rèn)自己認(rèn)為人工智能導(dǎo)致人類滅絕的可能性很大，但仍選擇在 DeepMind 工作，因?yàn)樵摴救允亲钭⒅匕踩钠髽I(yè)之一”。
目前，賴希施塔特致阿莫代的信、特拉齊致哈薩比斯的信均未收到回應(yīng)（谷歌也拒絕回答 The Verge 提出的“哈薩比斯為何不回信”的問題）。但兩人仍抱有希望，認(rèn)為他們的行動(dòng)能換來對方的認(rèn)可、一場會面，最理想的情況是，這些公司的 CEO 能承諾改變當(dāng)前的發(fā)展方向。
在賴希施塔特看來：“我們正處于一場不受控制、可能走向?yàn)?zāi)難的全球競賽中。若想找到出路，就需要人們愿意說出真相，承認(rèn)‘我們無法掌控這一切’，并主動(dòng)尋求幫助。”
本文鏈接：http://www.www897cc.com/showinfo-45-27704-0.html已絕食 17 天，美國男子在 Anthropic 總部外呼吁其停止 AGI 競賽
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com
上一篇： 讓 AI 真正“能做研究”，阿里通義 DeepResearch 模型、框架、方案全開源
下一篇： 華為 Pura 70、Mate 60 系列等機(jī)型升級 HarmonyOS 6 開發(fā)者版本支持真人感小藝、小藝看世界
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請聯(lián)系：2376512515@qq.com 津ICP備18001702號
津公網(wǎng)安備 12010102000574號