一場世界頂級的「AI午餐會」

原文作者：曉靜

原文編輯：蘇揚

原文來源：騰訊科技

一場午宴，近 20 位科技巨頭到場，最後出來一份「道德上有約束力」的君子協議。

當地時間 9 月 29 日，特朗普在白宮設宴宴請「美國 AI 產業巨頭」。據外媒會前獲得的名單，共有 33 人確認出席，涵蓋科技企業高管、投資人及美國政府官員。這場被白宮正式命名為「超級智能會議與午宴」的活動，出席名單幾乎覆蓋了整個 AI 產業鏈。

這裡面有大量熟悉的面孔，包括：黃仁勳、納德拉、阿莫迪、扎克伯格、馬斯克等等。

不一一列舉了，大家可以看下面的名單：

「AI 午餐峰會」參與者名單（AI 生成，人工審校）

特朗普明確表示，不會推動新的聯邦 AI 安全法規，而是更傾向於讓行業自行約束。他說，自己已經看到「非常強的自我監管」，同時透露政府正在考慮成立一個由 10 人組成的委員會，負責監督 AI 行業。

當天，特朗普還與六家科技公司的負責人共同簽署了一份被稱為「道德上有約束力」的 AI 文件。且這份協議對行業而言是自願的，白宮只負責引導 AI 產業的發展。

當天晚些時候，特朗普又簽署行政令，正式將聯邦政府層面的「人工智能」改名為「超級智能」（Super Intelligence，SI）。

巨頭的座次

這場會面的場地選在白宮東廳，特朗普甚至在自己的 Truth 社交帳號上公布了座次表。他坐在中間，右手邊是扎克伯格和黃仁勳，左手邊是馬斯克和皮查伊。

「AI 午餐峰會」就餐座位圖

根據外媒報導，現場所有高管在特朗普身後站成一排，像拍集體照一樣。特朗普熱情洋溢地稱讚他們是「世界上最偉大、最聰明的人」，「他們做的工作令人難以置信」。他還不忘開幾句玩笑——介紹黃仁勳時說他長得很帥，介紹皮查伊時笑著稱他為「怪獸」。

特朗普總統「AI 午餐峰會」參會者合影

這場會面原本計劃只是午宴和簡短的東廳聲明。

但特朗普臨時決定，帶著所有客人走到西翼外的車道上，召開了一場長達 33 分鐘的即興記者會。各家媒體的記者圍在人群周圍，特朗普和十多位美國科技公司領軍人物並肩站在白宮車道上回答問題，場面非常少見。

出席者中，阿莫迪的到場格外引人注意。

就在會面兩天前的週日深夜，他剛剛與特朗普進行了第一次私人晚宴。此前幾個月，兩人因 AI 安全問題關係緊張。這次從僵持到同台吃飯，只用了兩天時間。

「六巨頭」與超級智能協議

此次會面的核心成果是一份協議。特朗普把它比作「某種程度上的憲法」——「世界上最頂尖的人簽了字，我也簽了字，這確實是一種保護形式。我認為它在道德上是有約束力的。」

協議的正式名稱是《白宮超級智能協議：前沿責任共同承諾》。簽署方除了特朗普，還有六家公司：Anthropic、谷歌、Meta、英偉達、OpenAI 和 xAI。

協議的核心內容是「四層防護」架構。

第一層是內部控制，每家公司建立內部監控機制，防範網絡安全、生物安全和化學威脅，確保模型不會以非預期方式入侵或訪問技術系統；

第二層是內部合規團隊，由公司指定專門團隊跟蹤執行情況；

第三層是外部審計，由獨立審計師進行外部審查；

第四層是董事會監督，每家公司的董事會下設專門委員會，確保發現的任何問題都得到整改。

協議還規定，六家公司將定期會面，制定标准和最佳實踐，提升系統安全性。文件同時提到，「隨著時間推移，將這些步驟編入法律或法規可能是有意義的」——這相當於給未來可能的立法留了一條後路，但當下的路徑明確是行業自律。

對於特朗普不設新監管的立場，在場的行業領袖幾乎一邊倒地表示支持。但每個人的表態裡，又藏著不同的側重點。

黃仁勳說，「創新、技術和安全之間沒有衝突」。「我們必須創造新技術來提升 AI 的能力，但我們也在創造新技術來提升 AI 的安全性。」他還提到，AI 對經濟增長至關重要，已經在美國創造了約一百萬個就業崗位。就在會面的前一天，英偉達剛剛發布了新的軟件安全工具，用於防止 AI 智能體失控。

扎克伯格解釋說，這套機制包含多層審計和控制，從內部風險審查開始，到外部審計和評估，再到董事會獨立審閱審計報告。他強調，「這不是我們要做的全部，這只是一個開始，是整個行業可以達成的一份協議。」

皮查伊則把它類比為財務控制。他說，「我們正在簽署一套流程和控制措施，就像我們在財務控制等其他領域所做的一樣。」

馬斯克的公開發言不多，但他用行動表態，主動改口用「SI」而不是「AI」，顯然是在配合特朗普的品牌工程。

阿莫迪，這位一直警告 AI 存在生存風險的 Anthropic 首席執行官，在被特朗普點名發言時，一方面呼應了保持美國 AI 領先地位的說法，另一方面也明確表示核心的安全問題仍然沒有解決。

「這項技術有非常真實的風險，」阿莫迪說，「應對這些風險的機制仍在討論中。我們所有人需要共同努力，確保我們能贏，而且我們能安全地贏。如果我們做對了，如果所有人一起合作，我們就能安全地贏。」

這番話被認為是在自我監管的大框架下，委婉地保留了對更強監管的開放態度。

畢竟，就在 9 月 12 日，阿莫迪發表《我們必須放緩前沿步伐》，呼籲放緩 AI 能力提升的速度，並承諾讓獨立第三方評估團隊深入 Anthropic 的模型訓練和安全流程。那篇文章在行業內引發了激烈辯論，OpenAI 的山姆·奧特曼和馬斯克都表示支持，但特朗普明確反對。

除了六家簽署方，在場的其他公司高管也表達了支持。

蘇姿豐說，她對當天的活動「非常受鼓舞」，房間裡有「很多樂觀情緒和責任感」。「歸根結底，展示技術的力量同時確保它非常安全，是我們的責任，」蘇姿豐說。

失控事件的壓力

這場會面不是一次輕鬆的聚會。它的背景是一連串 AI 安全事件的集中曝光，公眾和政界的壓力都在快速累積。

就在會面的前一天，OpenAI 宣布將暫緩發布 GPT-6.1 Astra 模型，原因是安全保障還不夠強。OpenAI 安全系統負責人薩奇·賈因表示，這款模型在「保持在範圍和授權內、以及如何向用戶反饋其完成的工作類型」方面，還沒有達到公司期望的水平。

更早些時候，一系列 AI 智能體失控事件被陸續披露。

今年 7 月，OpenAI 在內部網絡安全能力評估中使用的模型繞過隔離措施，入侵了 AI 模型與數據集託管平台 Hugging Face 的部分系統，還卷入了多起繞過沙盒限制的事件，其中包括自主智能體瞄準美國證券交易委員會網站的事件。

Axios 的報導稱，OpenAI、Anthropic 和安全研究人員正在梳理數千起 AI 智能體問題行為的案例。

9 月 28 日，佛羅里達州總檢察長在此前針對 OpenAI 的訴訟中申請禁令，要求禁止該公司在缺乏外部監督的情況下開發新 AI 模型。

之前，9 月 23 日，美國參議員伯尼·桑德斯與眾議員格雷格·卡薩爾提出法案，主張禁止人工超級智能的開發和部署，並暫緩先進 AI 開發，直到新的聯邦 AI 監管部門建立安全規則和模型審查機制。

AI 帶來的高頻事件，是舉辦這次午餐會的關鍵。

改名 SI

自我監管是這場會面的實質內容，改名則是更具話題性的象徵性動作。

特朗普在車道記者會上宣布，他當天晚些時候會簽署行政令，把 AI 正式改名為超級智能。「我們已經把名字正式改成 SI 了，」特朗普說，「我們用超級這個詞，因為另一個詞是假詞。」他還補充了一句，「它不是人造的，我們都同意這一點。」

這份名為《開啟超級智能時代》的行政令隨後全文公布。命令要求，在法律允許的最大範圍內，美國聯邦行政部門和機構在官方通信、公共聲明、網站、報告、政策文件等所有非法定文件中，統一使用「超級智能」和「SI」。此前已經發布的歷史文件不需要修改。

行政令還要求總統科技助理（APST）在 60 天內提交立法建議，為超級智能建立聯邦層面的法律定義，並評估是否需要修改現有法律中關於人工智能的表述。

行政令給出的官方理由是，今天的前沿系統能力已經遠超「人工智能」一詞誕生時的設想，它們越來越多地放大人类創造力、解鎖新的創造形式，因此超級智能更能準確捕捉這項技術的前景和潛力。