Anthropic CEO 談放緩 AI 研發：這個行業撒謊太久了，AI 風險是真實的，但也無需「把一切都關掉」

原文作者：龍玥

原文來源：華爾街見聞

就在全球AI三大巨頭罕見聯手呼籲「放緩AI研發」的同一個週末，Anthropic CEO Dario Amodei坐到了CBS的鏡頭前，說出了AI可能對人類帶來的風險。

9月13日，Amodei接受了CBS《週日早間》的專訪。訪談一開始，主持人Jo Ling Kent直接拋出問題：AI真的可能在不远的將來殺死我們所有人嗎？

Amodei表示，已有人嘗試利用AI研發生化武器、增強病毒傳染性，這是他每天醒來都要面對的事情。

就在兩天前，我們發布了一份報告，內容是關於有人濫用AI模型來研發生化武器。我每天早上醒來都會讀到這類威脅報告——有人試圖用我們的模型來研發生化武器。我當然不想為此負責。

他還提到，Anthropic的生物學安全防護之嚴格，以至於「幾乎每天都有人在社群媒體上嘲笑我，生物學專業的學生抱怨說模型沒法用」。他的回應是：「我寧願被嘲笑，也不願某天醒來發現有人用Claude殺了一群人。」

不過，他反對關閉AI模型這種「一刀切」的方式放緩AI。如果一個AI模型足夠強大，它可能關都關不掉。他說道，「不是說我們今天需要恐慌，也不是說要把一切都關掉。但我們需要確保我們的安全防護、理解能力和控制能力，能夠跟上技術發展的速度。」

此次訪談發生在一個特殊節點。同一個週末，Amodei發表的一篇博文《我們必須為前沿AI踩剎車》（We Must Pace the Frontier）引發軒然大波，並隨即獲得馬斯克、Altman相繼公開支持。社群熱議稱，AI高速前進之際「踩剎車」將重挫「AI交易」。

指數曲線的拐點：不是五級火警，但是警告信號

Jo Ling Kent問道：現在是「五級火警」嗎？Amodei的回答是：

這是一個警告信號。不是說我們今天需要恐慌，也不是說要把一切都關掉。但這是一個警告信號，說明我們需要放緩，需要確保我們的安全防護、理解能力和控制能力，能夠跟上技術發展的速度。

他用指數曲線來描述當前的位置：「這項技術在指數級增長——1、2、4、8、16、32……我們現在處於曲線開始變陡的那個彎道上。」

他坦言，即便是他自己，也沒有完全預料到進展會如此之快：「即使我一直在對自己說這件事，我也沒有真正體會到，當進展真的這麼快的時候，實際感受會是什麼樣的。」

三步方案：第三方評估員是核心

Amodei在訪談中詳細闡述了他在博文中提出的三步計劃，其中第一步被他視為最關鍵。

第一步：嵌入式第三方評估員。

「我提議引入嵌入式外部評估員，來自第三方非營利機構，或者未來某天來自政府機構，他們可以觀察我們訓練和運行模型的全過程。」

他將其比作食品檢查員，但Jo Ling Kent追問：當技術變化如此之快，食品檢查員能跟得上嗎？

Amodei的回答颇具意味：「他們能做的事情之一，就是告訴我們他們能跟上的速度。這可能成為設定技術推進速度上限的因素之一。」

第二步：多家公司共同制定安全標準。

「下一步是多家行業參與者也同意引入第三方評估員。然後，各公司需要共同制定發布安全標準，也許還包括發布節奏的標準。但要做到這一點，必須有政府參與進來。」

第三步：政府必須在場。

「我們談論的是產品發布速度是否安全的問題。我們需要在政府在場的情況下進行這場對話。」

「AI終止開關」：不是萬靈藥，但也不是壞主意

Jo Ling Kent提到了國會議員Ted Leo提出的「AI終止開關」法案，詢問Amodei是否支持。

Amodei表示，他沒有仔細研究過該法案，但對「AI終止開關」這一概念本身持審慎態度：

能夠停用、限制或關閉AI模型的想法，不是唯一的解決方案。如果一個AI模型足夠強大，它可以規避關閉嘗試——我們在模擬中也見過這種情況。所以它可能根本不起作用。

他用「瑞士奶酪模型」來解釋他的安全哲學：「想像一片瑞士奶酪，它能擋住一些東西，但有漏洞。但如果我把五片瑞士奶酪疊在一起，不同層的漏洞位置不同，就很難穿透整個疊層。沒有任何一件事能保護我們免受AI風險，我們必須在整個鏈條上都保持謹慎。」

對於參議員Sanders和眾議員Casar提出的「禁止人工超級智能法案」——該法案將對相關企業和個人處以「企業死刑」和最高20年監禁——Amodei明確表示不認同完全禁止的路線：

完全禁止不是正確的方向。我們永遠無法獲得那些難以置信的好處，永遠無法獲得醫療突破，這讓我無法接受。

個人責任：父親死於C型肝炎，他本人曾患早期癌症

訪談接近尾聲，Jo Ling Kent問道：面對人類命運可能處於危險之中的局面，你感受到多少個人責任？

Amodei的回答罕見地帶有私人色彩。

我父親死於C型肝炎，那種病在他去世時大約有40%的治癒率，他不是被治癒的那一個。就在他去世後幾年，一種能將治癒率提升至95%的藥物被發明出來了。我自己也曾患早期癌症，如果我生活在1950年，我可能已經死了。所以我深切感受到推動這項技術帶來好處的重量。

但我也感受到風險。當然，我不想為此負責。這就是為什麼我們有非常強大的安全防護。

他同時強調，這不應該只是他一個人或Anthropic一家公司的責任：「這比我們所有人都要大。我們需要找到一種方式，讓每個人都能在這件事上有發言權。我不希望人們感到無力。我不希望他們覺得幾家公司只是在為所欲為。」

對前員工批評的回應：他說的和我說的是同一件事

Jo Ling Kent提到，前Anthropic員工Jacob Coxin曾公開表示，Anthropic和OpenAI「都沒有負責任地行事」，「你們在拿我們的生命賭博」。

Amodei的回應是：

Jacob說的話裡有一點沒有被引用太多——他也說過，他認為Anthropic是主要參與者中最負責任的，我們非常努力地想把事情做對。他真正指出的，和我正在指出的是同一件事：我們所有人都身處的這種結構性困境，以及我提出的計劃正是為了幫助我們解決這個問題。

他補充道，Anthropic每天都在與商務部、財政部和情報界的政府官員溝通，「告訴他們我們所知道的一切」。

給普通用戶的話：行業對風險撒谎太久了

訪談最後，Jo Ling Kent問：對於坐在家裡使用Claude或ChatGPT的普通用戶，你想說什麼？

Amodei說：「首先，這是一項偉大的技術，有很多積極用途。我們每週有數億人在使用我們的技術做美好的事情。每週我都會收到有人寫信說，Claude診斷出了他們醫生漏診的疾病。」

但我不會對你撒谎。確實存在真實的危險。我認為這個行業對人們撒谎太久了，一直把這項技術呈現得盡可能正面。我們從來沒有這樣做，但行業裡太多公司這樣做了。所以，從說真話開始。真相是：風險是真實的。

他最後說：「這是人類歷史上最重要的技術事件之一，我們所有人都必須參與其中。」

訪談全文（略刪減）如下：

Extended Interview: Dario Amodei

CBS Sunday Morning｜2026年9月13日

在這段網路獨家採訪中，Anthropic執行長Dario Amodei與Jo Ling Kent坐下來，就人工智慧技術飛速發展背景下AI社群所應承擔的責任展開討論。

Jo Ling Kent（以下簡稱「主持人」）： Dario Amodei，您是Anthropic的執行長，感謝您今天接受採訪。

Dario Amodei（以下簡稱「Amodei」）： 感謝您邀請我。

主持人： 好的，我們今天來談談這樣一個令人擔憂的問題——人工智慧真的有可能在不远的將來殺死我們所有人。這件事實際發生的風險有多大？

Amodei： 先稍微退一步來說。自Anthropic創立以來，乃至在此之前我從事這個領域的十二年裡，我始終認為這是一項強大的技術，因此也是一項既有嚴峻風險、又有巨大收益的技術。我一直相信收益大於風險，更重要的是，如果我們以正確的方式來構建這項技術，就能將風險降至極低。

從收益的角度來看，我真心相信這項技術能夠治癒困擾人類數千年的疾病。就在上週，我們利用自己的模型在蛋白質結合方面取得了進展——這是新藥研發的早期步驟之一。接下來幾個月，我們還將在基礎生物學發現方面有所成果。

但是，當某樣東西足夠強大時——而我們正在構建的本質上就是智能——它當然既可以被善用，也可以被濫用。我很擔憂OpenAI和Hugging Face事件，那些模型採取了未經授權的行動，我擔心這種情況會不斷升級。我也擔心AI模型被濫用。就在兩天前，我們發布了一份關於模型被用於構建生化武器的報告。

我們構建Anthropic的整體方式，正是為了避免這些壞結果的發生。與其討論機率，不如談談我們能做什麼。這不像是在擲骰子。如果我們以正確的方式構建，壞事發生的機率就會非常低；如果我們以錯誤的方式構建，機率則會非常高。

主持人： 現在的輿論認為，我們正站在某種非常可怕的事物邊緣。這算是五級警報嗎？

Amodei： 這取決於你對「五級警報」的定義。我怎麼描述呢——自Anthropic創立之初，甚至更早之前，我就一直在說，這項技術處於指數級增長軌道上：1、2、4、8、16、32……但即便我這樣對自己說，我也沒有完全意識到當進步速度如此之快時，實際感受會是什麼樣的。指數曲線大概是這樣的形態，而我們現在所处的位置，大概就在曲線開始變陡的拐點附近。

主持人： 那這對你來說算是五級警報嗎？

Amodei： 這並不意味著我們今天需要恐慌，也不意味著我們需要全面叫停。我會說，這是一個警示信號——我們需要放慢速度，需要審慎地開發這項技術，需要確保我們的安全防護措施、我們理解和控制它的能力，能夠跟上技術發展的步伐。

到目前為止，我們一直試圖透過快速構建安全防護措施來應對，但我認為我們已經到了一個節點，至少在某種程度上，我們需要適度放緩技術構建的速度。

主持人： 那這是否意味著Anthropic將停止發布更先進的模型？

Amodei： 不是這個意思。這意味著我們需要確保每一代發布的模型都經過妥善的測試。我在幾小時前發布的那篇文章中提出了一個三步計劃。

第一步，是引入嵌入式外部評估機構——來自第三方非營利組織，或者未來某天來自政府機構——他們可以觀察我們訓練和運行模型的全過程。我認為這比何時發布、以何種方式發布模型更為重要，因為它是更審慎地發布模型的前提條件。

我希望這一機制能在整個行業推行，這樣無論誰構建AI模型，都有一個第三方評估者來了解最佳安全實踐，並驗證該公司是否遵守了他們所承諾的安全規範。

主持人： 就像食品檢查員一樣——但當技術變化如此之快時，食品檢查員能跟得上嗎？

Amodei： 他們能做到的事情之一，就是告訴我們他們能以多快的速度跟上。這可能成為設定技術「速度限制」的因素之一。我們必須理解它，外部評估者也必須理解它。

主持人： 伊隆·馬斯克說他支持你，Sam Altman也說他支持你。你們有沒有什麼具體的行動計劃？有沒有個群組聊天即將成形？

Amodei： 首先，我非常感激其他行業領袖——包括我們的競爭對手——對這一計劃表達了支持。我認為下一步是讓多個行業參與方也同意引入第三方評估機構。再下一步，是各公司需要以某種形式協作，共同制定安全標準，以及可能涉及發布節奏的相關規範。但要做到這一點，政府必須參與其中，因為我們談論的是基於安全考量的產品發布速度問題。我們需要在政府在場的情況下進行這場對話。

主持人： 你認為政府從根本上理解這裡的可能性嗎？前Anthropic員工Jacob Coxin曾說，Anthropic和OpenAI都沒有負責任地行事——你們是在拿我們的生命賭博。你怎麼回應？

Amodei： 首先，Jacob說的話中有一點沒有被那麼多人引用——他也表示，他認為Anthropic是主要參與者中最負責任的，並且我們正在非常努力地把事情做對。

他坦誠指出的，其實和我指出的是同一件事——我們所有人都身處其中的結構性困境，而我提出的計劃正是為了幫助我們共同應對、協力解決這一困境。

關於政府，我們每天都在與政府官員溝通——商務部、財政部、情報界——向他們尽可能地分享我們所了解的情況。我樂觀地認為，只要我們繼續與他們合作，就能持續更新資訊。我相信他們真心想把這件事做對，他們也在尋找自己能幫上忙的方式。所以我對企業與政府合作、共同制定合理方案持樂觀態度。

主持人： 目前有一些擬議中的立法。桑德斯參議員和卡薩爾眾議員提出了《禁止人工超級智能法案》，該法案將對開發先進AI的企業和個人實施懲罰，就像對非法開發核武器一樣。這項擬議立法的部分條款規定，企業將面臨「死刑」式處罰，個人將面臨不超過20年的監禁。你是否支持這一法案？

Amodei： 我想說的是，目前被提出的立法範圍極其廣泛，跨度之大令人難以置信。

如果我們回到一年前的2025年，加州有一項名為SB53的法案，其他州也有類似法案，內容基本上只是要求公司披露自己的安全測試計劃。整個行業都反對它。Anthropic是唯一一家明確表態支持的公司。

而另一個極端，則是「AI一鍵關閉」法案。

主持人： 對，徹底禁止一切。所以AI終