好萊塢諜戰片,都不敢這么拍。
當地時間 11 月 17 日,在一個視頻會議上,OpenAI 的董事會突然宣布,聯合創始人兼 CEO Sam Altman 即刻離職,ChatGPT 開發的關鍵人物 Greg Brockman 也被罷免,公司 CTO Mira Murati 則被任命為臨時 CEO。
在一篇發表在 X 上的帖子中,Sam Altman 表示「我熱愛在 OpenAI 的時光」,并且他將「稍后有更多關于未來的話要說」。
Greg Brockman 則表示「Sam 和我對董事會今天的做法感到震驚和悲傷」「我們會沒事的。更偉大的事情即將到來。」
現在,大家都在猜,OpenAI 究竟發生了什么?為什么要解雇 Sam Altman 和罷免 Greg Brockman?
OpenAI 的董事會由 OpenAI 首席科學家 Ilya Sutskever、Quora 首席執行官 Adam D'Angelo、科技企業家 Tasha McCauley 和喬治敦安全和新興技術中心的戰略總監 Helen Toner 組成。
就在 OpenAI 宣布解職 Sam Altman 之前,Ilya 曾經給 Sam 發過一條短信,通知他 17 日上午加入視頻會議。后來的事情大家都知道了。
從目前的信息來看,解雇一事是由董事會成員 Ilya Sutskever 通知的,這個人領導了一個AI安全團隊,而臨時CEO Mira Murati 也是提前知情的。
而導致 Sam Altman 終被踢走,可能并非首席科學家 llya 的「宮斗」,而是整個 AI 行業都在談論,也讓全球監管擔心的,「安全」問題。
「安全」分歧
在 Sam Altman 被解雇前,OpenAI 內部關于AI安全性的分歧和爭論一直存在。
今年夏天,OpenAI 成立了一個安全團隊,致力于尋找防止 AI 失控的技術解決方案,了解和限制 AI 對社會的危害,如濫用、經濟混亂、虛假信息、偏見和歧視、成癮和過度依賴等,并稱要將公司獲得的 20% 的算力用于這項工作。
領導該安全團隊的其中一個人,是OpenAI的聯合創始人、首席科學家兼董事會成員 Ilya Sutskever,也正是這個人,對 Sam Altman 下了解雇通牒。
Sam Altman 和 Ilya Sutskever(右)在特拉維夫一個活動上|qz.com
根據 Greg Brockman 的說法,美國時間 11 月 16 日晚上,Sam 收到了 Ilya 的一條短信,要求周五中午談話。Sam 加入了一個會議,除了 Greg 外,整個董事會都在那里。Ilya 告訴 Sam 他被解雇了,消息很快就會發布。
11 月 17 日中午,Greg 收到 Ilya 的一條短信,要求進行一次快速通話。Ilya 發送了一個會議鏈接,Greg 隨后被告知他將被從董事會移除,但公司將保留他的角色。
Greg 是 OpenAI 早的幾名員工之一,花了大量時間編寫軟件,是開發 ChatGPT 和其他核心產品的關鍵人物,持有公司股權,在董事會解雇 Sam Altman 幾小時后,他選擇辭職,或許因為他是 Sam Altman 的親密盟友。
大約在同一時間,OpenAI 發布了一篇博客文章。稱「Altman 先生的離職是在董事會進行審議審查過程后得出的結論,他在與董事會的溝通中始終不坦誠,這阻礙了其履行職責的能力。董事會對他繼續領導 OpenAI 的能力不再有信心。」
大家都在質疑,這是否是發生在 OpenAI 的一場惡意的「政變」。被解雇的 Sam Altman 得到一大片支持和惋惜之聲。
前谷歌CEO 埃里克·施密特 Eric Schmidt 直接稱 Sam Altman 是英雄,贊他將 OpenAI 從無到有轉變 900 億美元的非凡估值。Airbnb 首席執行官 Brian Chesky 也加入了對 Sam Altman 的贊揚行列,稱他是這一代人中優秀的創始人之一。
在解雇 Sam Altman 后臨時召開的全員會議上,面對「政變」的指控,Ilya 的回應據稱是,「你可以這樣說」「但我不同意」,他認為「這是董事會履行其非營利組織使命的責任,即確保OpenAI構建造福整個人類的 AGI」。
在發給員工的內部備忘錄中,臨時 CEO Mira Murati 提到「我們的使命和共同開發安全有益的 AGI 的能力」。她稱 OpenAI 有三個支柱,包括「大程度地推進我們的研究計劃,我們的安全和對齊工作——特別是我們在科學上的預測能力和風險方面的能力,以及以有益于所有人的方式與世界分享我們的技術。」
Ilya Sutskever、Sam Altman、Mira Murati、Greg Brockman|Wired
OpenAI 成立于 2015 年,成立之初就定位為一家非營利組織。然而,在 2019 年,OpenAI 進行了重組,Sam Altman 成為 OpenAI 首席執行官,他幫助創建了一家名為 OpenAI LP 的營利性子公司,以便從微軟等外部投資者那里籌集資本,用于訓練 AI。而 OpenAI 本身仍然是一個由董事會管理的非營利組織。
Altman 在籌集資金方面發揮了關鍵作用,包括從微軟那里獲得的 100 億美元。盡管 OpenAI 給投資者設定了一個利潤上限,OpenAI 的估值如今已經達到 850 億美元,據 Sam Altman 近告訴員工,OpenAI 正在產生 13 億美元的年化收入。
另一邊,對于 AI 安全性的擔憂,以及 OpenAI 的商業化,也分裂了 OpenAI 內部的管理層。就在 2020 年底,OpenAI 的一幫員工離開了公司,創立了 AI 公司 Anthropic,這家公司以安全為賣點,創始人還直接對外表示離開是因為對 OpenAI 商業化和戰略的不滿。
Ilya 也一直擔心未來幾年強大 AGI 的危險,此前,在 OpenAI 的一篇博客文章中,他寫道「巨大的超級智能力量可能非常危險,并可能導致人類被剝奪權力甚至人類滅絕。」
在解雇 Sam Altman 后,OpenAI 董事會在一份聲明中續稱,「OpenAI 旨在推進我們的使命:確保人工智能造福全人類。董事會仍然完全致力于為這項任務服務。」
到底哪里「不坦誠」?
除了「安全」問題,OpenAI 董事會所說的 Sam Altman「不坦誠」方面,從現有消息看,Sam Altman 是否隱瞞了支出也存在質疑。
11 月 15 日,就在 Sam Altman 被解雇的前兩天,OpenAI 頗具爭議地宣布將停止 ChatGPT Plus(每月 20 美元的高級版本)的新注冊。這在一定程度上凸顯了成本和營收的問題。
內部消息人士稱,OpenAI 在每個 ChatGPT Plus 用戶身上都在虧損,并且需要時間來增強服務器容量。
這與 Sam Altman 被解雇的時間太過重合,以至于部分人士猜測,Sam Altman 是否向董事會歪曲了財務數據、用戶數量或云計算成本?支出是否高于預期?或者他是否阻礙了董事會獲取相關信息?
另一個側面的證實聯系是,董事會還解除了 OpenAI 聯合創始人兼首席技術官 Greg Brockman 的董事長職務,因為 Greg 可能會關注運行 OpenAI 系統的技術成本。他是這家初創公司有影響力的人物之一,在從產品決策到為工程團隊設定方向的一切事務中具備發言權。如果支出脫軌,兩位管理者便可能是同謀。
另外,有關 Sam Altman 的離職還涉及到一些不尋常的因素,有消息稱,Sam Altman 計劃將 OpenAI 技術用于 Worldcoin,這也引發了一些道德危險的擔憂。
OpenAI 開發者大會上 Sam Altman 和薩提亞開了個小玩笑|OpenAI
作為 OpenAI 的「金主」,微軟的態度如何?據了解此事的人士稱,在 Sam Altman 被解雇的消息公開前,微軟領導層只從 OpenAI 那里得到了 5 到 10 分鐘的提前通知。OpenAI 臨時 CEO Mira Murati 在周五的一次全公司會議上告訴員工,他們與微軟的關系保持穩定。
就在前不久,微軟于 11 月 9 日曾短暫屏蔽員工在公司設備上訪問 ChatGPT,并警告員工,給出的理由是存在安全擔憂。
距離 OpenAI 的開發者大會僅過去 10 天,彼時 Sam Altman 還與微軟高管談笑風生,甚至還在 15 日參加了他與微軟基礎設施高管的定期會議。
「今天在很多方面都是一次奇怪的經歷。」Sam Altman 在 X 的帖子上坦言。
他曾表示 GPT-5 的終極目標是創造相當于人腦的超級 AI,但 AI 的發展是否已經出現安全問題,終導致了這場快速的內部「政變」?
被踢出 OpenAI 后,Sam Altman 的下一步又會是什么?
OpenAI 解雇 Sam Altman 事件時間表
2023 年 11 月 6 日:OpenAI 舉行開發者大會,推出了「自定義 ChatGPT」功能。
2023 年 11 月 9 日:微軟發出警告,要求其員工停止使用 ChatGPT,因為存在安全問題。
2023 年 11 月 15 日:OpenAI 暫停了 ChatGPT Plus 的注冊。微軟 CEO 薩提亞·納德拉在 Ignite 大會上宣布,OpenAI 所有創新都將用在微軟的 Azure 云服務上。
2023 年 11 月 16 日:Sam Altman 收到 llya 短信,通知周五中午談話。
2023 年 11 月 17 日:OpenAI 的董事會突然宣布,聯合創始人兼 CEO Sam Altman 即刻離職。董事會在一次審查后得出結論,認為 Altman 在與董事會的溝通中不夠坦誠,妨礙了董事會執行其職責的能力。董事會對他繼續領導 OpenAI 失去了信心。同日,Altman 在 X 平臺(前 Twitter)上發表了關于他離職的聲明。
2023 年 11 月 17 日晚些時候:OpenAI 聯合創始人和前董事會主席 Greg Brockman 宣布他也將離開公司。這是在董事會要求 Brockman 辭去董事會主席職務但保留在公司的角色后發生的。
2023 年 11 月 17 日:OpenAI 任命公司首席技術官 Mira Murati 為臨時首席執行官。
本文鏈接:http://www.www897cc.com/showinfo-17-31880-0.html全人類擔心的AI 安全 害奧特曼終失業
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com