BTC
ETH
HTX
SOL
BNB
查看行情
简中
繁中
English
日本語
한국어
ภาษาไทย
Tiếng Việt

一場改變AI格局的決裂:OpenAI與Anthropic的隱秘恩怨往事

星球君的朋友们
Odaily资深作者
本文約4751字,閱讀全文需要約7分鐘
從26頁論文到兆元估值的Anthropic,從指控Altman「兩面派」到內部直言「OpenAI是邪惡的」,這場信任崩塌重塑AGI競賽格局。
AI總結
展開
  • 核心觀點:2020年OpenAI七名核心成員因對管理層信任崩塌而集體出走創立Anthropic,根源在於2017年「國家計劃」等事件累積的猜疑與價值觀分歧,如今雙方仍互相敵視。
  • 關鍵要素:
    1. Dario Amodei因2017年26頁論文《計算大團》奠定大模型技術路線,後成為GPT-2和GPT-3核心推動者。
    2. 2017年「國家計劃」擬向各國政府拍賣AGI權利,Amodei強烈反對,稱其「道德上令人作嘔」。
    3. Amodei認為Altman在微軟投資談判中隱瞞客戶名單、對合併協助條款撒謊,信任徹底耗盡。
    4. 2020年12月全員會議上七人被突然踢出,郵箱與Slack權限撤銷、電腦遠程鎖死。
    5. Anthropic從最初約50人願景擴張至數千員工,正衝刺兆元估值IPO,與OpenAI並駕齊驅。
    6. 雙方簽署互不貶低協議,但內部Slack中Dario稱OpenAI為「邪惡」,OpenAI員工則指責其虛偽。

原文作者:龍玥

原文來源:華爾街見聞

2020 年 12 月,OpenAI 一場全員視訊會議的最後幾分鐘,徹底改變了 AI 產業的格局。

時任 OpenAI 政策負責人 Jack Clark 在聊天框裡敲下「我愛你們所有人」,螢幕隨即變黑——七名 OpenAI 核心成員被同時踢出會議,信箱權限撤銷,Slack 帳號註銷,筆記型電腦被遠端鎖死。這不是意外,而是一場蓄謀已久的決裂的終點。

這七個人,是 Dario Amodei 帶走的。當時他是 OpenAI 研究副總裁,GPT-2 和 GPT-3 的核心推動者,也是那個在內部寫了 26 頁論文、奠定大模型技術路線的人。他離開的理由,不是錢,不是職位,而是他認為 OpenAI 的管理層——尤其是 Sam Altman——根本不能被信任。

9 月 29 日,據《大西洋月刊》記者 Kevin Roose 歷時數年、採訪逾 150 名相關人士後披露,這場決裂的根源,可以追溯到 2017 年一個被稱為「Countries Plan」的內部方案,以及此後三年間不斷累積的猜疑、爭吵與背叛感。

五年後,那七個人創立的 Anthropic,已擁有數千名員工,正與 OpenAI 並駕齊驅衝向 AGI。但 Dario 和 Altman 之間的關係,據多名知情人士透露,至今仍是「互相鄙視」。

那份 26 頁的論文,和 Amodei 的野心

2016 年,Dario Amodei 從谷歌離職,加入 OpenAI。

他戴圓框眼鏡,頂著一頭棕色捲髮,緊張或思考時習慣用手指繞著髮捲轉。同事們說他是「天才,但固執」。

Dario Amodei 影片截圖

他表達觀點的方式,是寫長文。

2017 年,他寫了一篇 26 頁的內部文章,題為《計算大團》(Big Blob of Compute)。文章提出:機器智慧本質上是規模的函數——模型越大,越聰明。

這個判斷,直接把 OpenAI 的研究方向推向了大語言模型(LLM),也為後來的 GPT-2 和 GPT-3 奠定了基礎。

按理說,Amodei 的職業生涯正處於巔峰。他的團隊不僅提出了預測模型效能提升的「縮放定律(Scaling Laws)」,還開創了讓模型遠離有害輸出的「基於人類回饋的強化學習(RLHF)」技術。

但他卻越來越確信,自己不會留下來開發 GPT-4 了。

「Countries Plan」:讓他徹底寒心的那個方案

Amodei 對公司領導層失去了信心。

他認為 Sam Altman 是一個「兩面派的操縱者」,而總裁 Greg Brockman 則是「貪戀權力且不計後果的」。他反感他們將 OpenAI 商業化的決定,認為這背離了「不受產生財務回報需求限制」的初衷。

更讓他反感的,是內部的派系鬥爭。

一位曾與 Amodei 交流的人士透露,Amodei 當時認為 OpenAI 就是「一場鬧劇」,是「由缺乏誠信的人掌管」的。這位人士直言:「每天都有新的危機,如果 Dario 不發一頓絕對的脾氣,Sam 在 24 小時內就會做出新的瘋狂舉動。」

導火線在 2017 年就已埋下。

當時馬斯克正撤出 OpenAI,公司急需資金。據五位知情人士透露,Brockman 和 Ilya Sutskever 構思了一個被稱為「國家計畫」(「Countries Plan」)的籌資方案:在包括美國及其他大國政府之間舉行拍賣,出售 OpenAI 未來 AGI 技術的權利。

Brockman 和 Sutskever 的邏輯是:AGI 具有極強的國家安全意義,遲早會被政府從私營企業手中奪走。既然早晚要交出去,為什麼不現在賣掉換取發展資金?

「這聽起來就像科技人士在推銷一個瘋狂的新創公司,他們有一個古怪的計畫,最後一步竟然是:我們會讓政府來買單。」一位聽過該計畫陳述的人士回憶。

Amodei 驚呆了。他認為,向政府兜售 AGI 與 OpenAI 的使命背道而馳。

2017 年 12 月,他給 Brockman、Sutskever 及其他高管寫了一封郵件,措辭直接:

「在我看來,這項計畫非但不能減少,反而會加劇軍備競賽,有可能引發人權暴行……並會破壞 OpenAI 的道德合法性。」他堅持,OpenAI 應該為「造福人類」而優化。

OpenAI 發言人後來對《大西洋月刊》表示,公司「曾短暫考慮過是否將 OpenAI 轉變為一個國際合作項目」,但「從未考慮過向任何國家出售 AGI」。

這個方案最終因微軟入局而擱置。但 Dario 沒有忘記,Brockman 和 Sutskever 曾經認真討論過一個他認為「道德上令人作嘔」的想法。

信任一點點耗盡:暗藏的名單、被否決的收購條款和侃爺事件

在隨後的兩年裡,裂痕不斷擴大。Amodei 開始記錄他認為被 Altman 誤導的時刻。

比如,在 GPT-3 的私人內測期間,Amodei 向 Altman 索要了一份獲批客戶名單。Altman 發給了他一份。但 Amodei 隨後聲稱,他發現了另一份更長的獲批名單,而 Altman 對此隻字未提。

再比如,在與微軟談判 10 億美元投資時,Amodei 極力要求保留 OpenAI 章程中的「合併與協助條款」——即如果出現更安全的 AGI 項目,OpenAI 應停止競爭並協助對方。他堅持微軟無權否決 OpenAI 未來可能的被收購(這是實現合併協助的最可能方式)。

Altman 告訴他,微軟不同意這個條款。但 Amodei 堅信,Altman 是為了急於達成交易而讓步(或者根本沒提),然後對他撒了謊。

更有一些看似荒誕的商業決策讓 Amodei 無法忍受。2020 年,Altman 會見饒舌歌手 Kanye West,並提議讓他參與 GPT-3 內測。當時 Kanye 剛發布了疑似對著葛萊美獎盃小便的影片,精神狀態極不穩定。政策總監 Jack Clark 最終出面扼殺了這個危險的想法。

這些事單獨看也許不足以讓人辭職。但在 Amodei 腦海中,它們拼湊出了一個結論:絕不能把 AGI 這樣強大的技術,交到這樣的人手裡。

「毛絨玩具顧問團」,和一個越來越孤立的安全派小圈子

Amodei 的妹妹,Daniela Amodei 也對 OpenAI 感到厭倦。

作為一名曾在政界工作、高情商的管理者,Daniela 成為了哥哥技術狂熱的補充。但隨著她接管更多技術團隊,她與管理層的衝突日益增加。

Daniela Amodei 影片截圖

有趣的是,Daniela 有一套獨特的衝突處理機制——毛絨玩具顧問團。

她和董事會成員 Holden Karnofsky 收集了大量毛絨玩具,並為它們分配了角色:Jinji 是一隻懶惰的貓,鼓勵她取消會議、少幹活;粉紅熊 Maura 是一個注重細節的 A 型管理者;熊貓 Beary Bonds 則是「慷慨和同理心的守護熊」。她用這種半開玩笑的方式來進行管理角色扮演。

到了 2020 年,Amodei 兄妹開始在 OpenAI 內部建立自己的核心圈子。

他們建立了私密的 Slack 頻道,滿口都是非技術人員聽不懂的「安全黑話」。前同事回憶:「Dario 當時有個習慣,就是直接說:我們必須做 X;這是道德上正確的事情。這就像是贏得任何爭論的捷徑——『因為安全』。這讓非安全團隊非常惱火。」

19 年,Amodei 一度想放棄,甚至考慮過跳槽 DeepMind。但負責縮放定律研究的物理學教授 Jared Kaplan 提出了一個更具顛覆性的想法:既然理念不合,為什麼不帶上所有注重安全的人,自己開家公司?

2020 年,GPT-3 發布的同一年,Amodei 湊齊了 7 名聯合創始人。

在徹底攤牌前,Amodei 向 Altman 提出了一系列留任條件,包括給予安全團隊對新產品發布的「一票否決權」。他知道這多半會被拒絕,只希望藉此逼迫 Altman 妥協。

談判期間,這 7 個人建立了一個名為「BATNA」的秘密 Slack 頻道——這是一個商學院術語,意為「談判協議的最佳替代方案」,隨時準備走人。

拔掉網路線,螢幕驟黑

當確認 Altman 不會滿足要求後,「BATNA」團隊聘請了律師,開始談判被稱為「離婚」的條件。

雙方達成協議:離職團隊可以在幾週內挖走想要的員工,換取此後一年內的不挖角承諾;可以帶走部分內部研究文件;雙方簽署互不貶低協議,絕不在公開場合說對方壞話。

2020 年 12 月,決定命運的 OpenAI 全員線上會議召開。

Altman 像往常一樣開場,通報研究進展。隨後,他把發言權交給了 Amodei。

Amodei 平靜地宣布,他和另外 6 名領導層將辭職,成立一家專注於安全的 AI 組織。會議聊天視窗瞬間被震驚的表情符號和驚嘆號淹沒。大家都在猜測:誰來訓練 GPT-4?誰是我的新經理?

在滿屏的錯愕中,Jack Clark 在聊天框裡敲下了最後一句話:「我愛你們所有人。(I love you all.)」

緊接著,一瞬間,這 7 個人的螢幕全部黑了。

OpenAI 直接將他們踢出了會議,撤銷了電子郵件和 Slack 權限,並遠端鎖死了他們的筆記型電腦。

幾個小時後,這批新失業的創始人召開了第一次視訊會議。沒有電腦、沒有 GPU、沒有數據,甚至公司域名還沒定好(原本想叫 Sparrow Systems,最後改成了 Anthropic)。但他們在螢幕前舉杯慶祝,笑得比過去幾個月都開心。他們自由了。

兆元估值與無法停止的怨恨

五年過去,現實與初衷開了一個巨大的玩笑。

在 2021 年 Amodei 撰寫的成立願景中,他設想的是一家大約 50 人的小型 AI 安全研究實驗室,並預測構建 AGI 只需約 100 億美元。

2023 年夏天,這裡還像個繁榮的邪教總部或大學植物實驗室。160 名痴迷於安全的員工擠在一起吃純素三明治,用 Liquid Death(一款氣泡水)的空罐子堆起高高的王座。

但到了 2025 年冬天,Anthropic 已經變成了一個指揮中心。

員工膨脹到數千人,搬進了安保森嚴的高層建築。入口處站著十幾個魁梧的保鏢,訓練新版 Claude 的樓層甚至對內部員工都要求特殊權限。

Amodei 成了乘坐包機、有保鏢簇擁的科技巨頭。他曾經低調內斂,如今卻要管理一家史上增長最快的資本巨獸,正衝刺著兆元估值的 IPO。

Daniela Amodei 將這一切稱為「成功的災難」:「在每一個維度上都充滿壓力。這讓人害怕,因為我們隨時可能失去它。這僅僅是商業方面。然後是我們的使命,我們在想,我們會不會意外地讓事情變得更糟?比如,我們以為自己弄懂了所有關於安全的事情,但真的懂了嗎?」

唯一沒有改變的,是他們與 OpenAI 的死敵關係。

據熟悉他們的人透露,Dario 和 Daniela 依然鄙視 Altman 和 Brockman。在 Anthropic 內部的 Slack 群裡,Dario 甚至直言 Altman 和 OpenAI 是「邪惡(evil)」的,以至於在 2023 年 OpenAI 董事會政變期間,公關高管甚至要求他刪除這條訊息,怕被洩露。

而在 OpenAI 這邊,員工們私下將 Amodei 兄妹描述為「渴望權力的美德信號發送者」,指責他們虛偽——表面上警告 AI 風險,私下裡卻在加速這場競賽。

這成了矽谷當下最深刻的黑色幽默:這兩撥人都在傾盡算力,訓練 AI 模型要保持善良、同理心與克制;但作為創造者的人類,卻始終無法放下對彼此的深仇大恨。

創始人
AI
歡迎加入Odaily官方社群