Anthropic CEO、AI開発の減速について語る：この業界はあまりにも長く嘘をついてきた、AIリスクは現実だが、「すべてを止める」必要はない

原文作者：龍玥

原文来源：ウォール・ストリート・ヘラルド

世界のAI三大巨頭が異例の形で「AI研究開発の減速」を呼びかけた同じ週末、Anthropic CEOのDario AmodeiはCBSのカメラの前に座り、AIが人類にもたらし得るリスクについて語った。

9月13日、AmodeiはCBS「サンデー・モーニング」の単独インタビューに応じた。インタビューの冒頭、司会のJo Ling Kentは直接こう問いかけた。AIは本当に近い将来、私たち全員を殺す可能性があるのか？

Amodeiは、すでにAIを利用して生物兵器を開発したり、ウイルスの伝染性を高めようとする試みが存在しており、これが毎朝目覚めるたびに向き合わなければならない現実だと述べた。

わずか2日前、私たちはAIモデルの悪用による生物兵器開発に関する報告書を発表した。私は毎朝目覚めるたびにこうした脅威報告を目にする——誰かが私たちのモデルを使って生物兵器を開発しようとしているのだ。もちろん、その責任を負いたくはない。

彼はまた、Anthropicの生物学的安全性の防護が厳格すぎるあまり、「ほぼ毎日、SNSで私を嘲笑する人がいて、生物学専攻の学生たちがモデルが使えないと不満を漏らしている」とも言及した。彼の回答はこうだ：「嘲笑われるほうが、いつか目覚めたときに誰かがClaudeを使って大勢の人を殺したと知るよりはましだ。」

しかし、彼はAIモデルを閉鎖するという「一律の」方法でAIを減速させることには反対している。AIモデルが十分に強力であれば、閉鎖することすらできないかもしれない。彼はこう述べた。「今日パニックになる必要があると言っているわけでも、すべてを止めるべきだと言っているわけでもない。しかし、私たちの安全防護、理解力、制御能力が技術の発展速度に追いつくことを確保する必要がある。」

今回のインタビューは特別なタイミングで行われた。同じ週末、Amodeiが発表したブログ記事「私たちはフロンティアAIにブレーキをかける必要がある」（We Must Pace the Frontier）が大きな波紋を呼び、すぐにMuskとAltmanが相次いで公開支持を表明した。コミュニティでは、AIが高速で前進する中での「ブレーキ」は「AIトレード」に打撃を与えると热议されている。

指数曲線の変曲点：五級火災ではないが、警告信号ではある

Jo Ling Kentが問いかけた：今は「五級火災」なのか？Amodeiの回答はこうだ：

これは警告信号だ。今日パニックになる必要があると言っているわけでも、すべてを止めるべきだと言っているわけでもない。しかしこれは警告信号であり、私たちが減速する必要があること、私たちの安全防護、理解力、制御能力が技術の発展速度に追いつくことを確保する必要があることを示している。

彼は指数曲線を使って現在の位置を説明した。「この技術は指数関数的に成長している——1、2、4、8、16、32……私たちは今、曲線が急になり始めるカーブの地点にいる。」

彼は率直に、自分自身でさえ進歩がこれほど速いとは完全には予想していなかったと認めた。「自分に何度もそう言い聞かせてきたが、進歩が本当にこれほど速いとき、実際にどのように感じるのかは本当には理解していなかった。」

三段階の方案：第三者評価者が核心

Amodeiはインタビューの中で、ブログ記事で提唱した三段階の計画を詳細に説明し、その第一段階を最も重要と位置づけた。

第一段階：組み込み型第三者評価者。

「私は組み込み型の外部評価者を導入することを提案する。第三者非営利機関から、あるいは将来のある時点で政府機関から来た評価者が、私たちがモデルを訓練し運用する全過程を観察できるようにする。」

彼はそれを食品検査官に例えたが、Jo Ling Kentが追及した：技術がこれほど速く変化するとき、食品検査官は追いつけるのか？

Amodeiの回答は示唆に富むものだった。「彼らができることの一つは、自分たちがどの程度の速度で追いつけるかを教えてくれることだ。これは技術の推進速度の上限を設定する要因の一つになり得る。」

第二段階：複数企業が共同で安全基準を策定する。

「次の段階は、複数の業界参加者も第三者評価者の導入に同意することだ。そして、各企業が共同で公開安全基準を策定する必要がある。おそらく公開のペースに関する基準も含まれる。しかし、それを実現するには政府が関与しなければならない。」

第三段階：政府が立ち会わなければならない。

「私たちは製品リリースの速度が安全かどうかという問題を議論している。政府が立ち会う中でこの対話を行う必要がある。」

「AIキルスイッチ」：万能薬ではないが、悪いアイデアでもない

Jo Ling Kentは、国会議員Ted Leoが提出した「AIキルスイッチ」法案に言及し、Amodeiが支持するかどうかを尋ねた。

Amodeiは、その法案を詳しく検討したことはないとしつつも、「AIキルスイッチ」という概念自体には慎重な姿勢を示した：

AIモデルを停止、制限、または閉鎖できるという考えは、唯一の解決策ではない。AIモデルが十分に強力であれば、閉鎖の試みを回避できる——私たちはシミュレーションでもそうした状況を見てきた。だから、まったく機能しない可能性もある。

彼は「スイスチーズモデル」で自身の安全哲学を説明した。「スイスチーズの一片を想像してほしい。それは何かを遮ることができるが、穴がある。しかし、五枚のスイスチーズを重ねると、異なる層の穴が異なる位置にあり、積層全体を貫通するのは難しくなる。AIリスクから私たちを守る単一のものは存在しない。私たちはチェーン全体にわたって慎重であり続けなければならない。」

上院議員Sandersと下院議員Casarが提出した「人工超知能禁止法案」——この法案は関連企業と個人に「企業死刑」と最大20年の禁固刑を科す——について、Amodeiは完全禁止の路線に明確に反対した：

完全禁止は正しい方向ではない。私たちはあの信じられないような恩恵を永遠に得られず、医療の突破を永遠に得られない。それは私には受け入れられない。

個人の責任：父はC型肝炎で亡くなり、自身も早期がんを患った

インタビューが終わりに近づいたころ、Jo Ling Kentが尋ねた：人類の運命が危険にさらされているかもしれない局面に直面して、あなたはどれほどの個人的責任を感じているか？

Amodeiの回答は珍しく私的な色彩を帯びていた。

私の父はC型肝炎で亡くなった。あの病気は彼が亡くなった当時、約40%の治癒率だった。彼は治癒した側ではなかった。彼の死後わずか数年で、治癒率を95%に高める薬が発明された。私自身も早期がんを患ったことがあり、もし1950年に生きていたら、私はすでに死んでいたかもしれない。だから私はこの技術を推進して恩恵をもたらすことの重みを深く感じている。

しかし、私はリスクも感じている。もちろん、その責任を負いたくはない。だからこそ、私たちは非常に強力な安全防護を持っているのだ。

彼は同時に、これは自分一人やAnthropic一社の責任であるべきではないと強調した。「これは私たち全員よりも大きなものだ。私たちは、誰もがこの事柄について発言権を持てる方法を見つける必要がある。人々に無力感を感じてほしくない。数社がただ好き勝手にやっているだけだと感じてほしくない。」

元従業員の批判への回应：彼が言ったことと私が言っていることは同じことだ

Jo Ling Kentは、元Anthropic従業員のJacob Coxinが公開の場で、AnthropicとOpenAIは「どちらも責任ある行動を取っていない」「あなたたちは私たちの命を賭けている」と述べたことに言及した。

Amodeiの回答はこうだ：

Jacobが言ったことの中であまり引用されていない点が一つある——彼はまた、Anthropicは主要プレイヤーの中で最も責任感があると彼が考えているとも言っており、私たちは物事を正しく行おうと非常に努力している。彼が本当に指摘したのは、私が指摘しているのと同じことだ：私たち全員が置かれているこの構造的ジレンマ、そして私が提案した計画はまさにこの問題の解決を助けるためのものだ。

彼は付け加えた。Anthropicは毎日、商務省、財務省、情報機関の政府関係者と連絡を取り、「私たちが知っているすべてを伝えている」と。

一般ユーザーへのメッセージ：業界はあまりにも長くリスクについて嘘をついてきた

インタビューの最後に、Jo Ling Kentが尋ねた：家でClaudeやChatGPTを使っている一般ユーザーに対して、何を伝えたいか？

Amodeiはこう述べた。「まず、これは素晴らしい技術であり、多くの前向きな用途がある。私たちは毎週数億人が私たちの技術を使って素晴らしいことをしている。毎週、誰かがClaudeが医師が見逃した病気を診断したと手紙を書いてくる。」

しかし、私はあなたに嘘をつかない。確かに現実の危険が存在する。私はこの業界があまりにも長く人々に嘘をついてきたと思う。この技術を可能な限りポジティブに提示し続けてきた。私たちは決してそうしてこなかったが、業界のあまりにも多くの企業がそうしてきた。だから、真実を語ることから始めよう。真実は：リスクは現実だ。

彼は最後にこう述べた。「これは人類史上最も重要な技術的出来事の一つであり、私たち全員が関わらなければならない。」

インタビュー全文（一部省略）は以下の通り：

Extended Interview: Dario Amodei

CBS Sunday Morning｜2026年9月13日

このネット独占インタビューで、Anthropic CEOのDario AmodeiはJo Ling Kentと共に座り、人工知能技術の急速な発展を背景にAIコミュニティが負うべき責任について議論を交わした。

Jo Ling Kent（以下「司会者」）： Dario Amodei、あなたはAnthropicのCEOです。本日はインタビューをお受けいただきありがとうございます。

Dario Amodei（以下「Amodei」）： お招きいただきありがとうございます。

司会者： では、本日はこうした憂慮すべき問題についてお話ししましょう——人工知能が本当に近い将来、私たち全員を殺す可能性があるのか。これが実際に起こるリスクはどの程度でしょうか？

Amodei： 少し引いてお話ししましょう。Anthropicの創設以来、そしてそれ以前に私がこの分野で12年間従事してきた中で、私は常にこれが強力な技術であり、それゆえに深刻なリスクと巨大な恩恵の両方を持つ技術だと考えてきた。私は常に恩恵がリスクを上回ると信じてきたし、さらに重要なのは、私たちが正しい方法でこの技術を構築すれば、リスクを極めて低く抑えられるということだ。

恩恵の観点から言えば、私はこの技術が人類を数千年にわたって苦しめてきた病気を治癒できると心から信じている。ちょうど先週、私たちは自分たちのモデルを使ってタンパク質結合に関する進展を達成した——これは新薬開発の初期ステップの一つだ。今後数ヶ月で、基礎生物学の発見においても成果を上げる予定だ。

しかし、何かが十分に強力であるとき——そして私たちが構築しているのは本質的に知能だ——それは当然、善用も悪用もされ得る。私はOpenAIとHugging Faceの事件を懸念している。あのモデルは未承認の行動を取った。私はこの状況がエスカレートし続けることを心配している。AIモデルの悪用も心配だ。わずか2日前、私たちはモデルが生物兵器の構築に使用されたという報告書を発表した。

私たちがAnthropicを構築する全体的な方法は、まさにこうした悪い結果を避けるためだ。確率を議論するよりも、私たちに何ができるかを話そう。これはサイコロを振るようなものではない。正しい方法で構築すれば、悪いことが起こる確率は非常に低くなる。間違った方法で構築すれば、確率は非常に高くなる。

司会者： 現在の世論では、私たちは何か非常に恐ろしいものの瀬戸際に立っていると言われている。これは五級警報なのか？

Amodei： 「五級警報」の定義による。どう表現すればいいか——Anthropicの創設当初から、いやそれ以前から、私はこの技術が指数関数的な成長軌道にあると言い続けてきた：1、2、4、8、16、32……しかし、自分にそう言い聞かせていても、進歩の速度がこれほど速いとき、実際にどのように感じるのかを完全には意識していなかった。指数曲線はおおよそこういう形で、私たちが今いる位置は、おおよそ曲線が急になり始める変曲点のあたりだ。

司会者： では、あなたにとってこれは五級警報なのか？

Amodei： 今日パニックになる必要があるという意味でも、全面的に停止する必要があるという意味でもない。私が言いたいのは、これは警告信号だということだ——私たちは速度を落とし、この技術を慎重に開発し、私たちの安全防護措置、それを理解し制御する能力が、技術発展の歩みに追いつくことを確保する必要がある。

これまで私たちは安全防護を迅速に構築することで対応しようとしてきたが、私は少なくともある程度、技術構