AnthropicとOpenAI、AI競争加速の背景で安全ルールの表現を調整

Odailyの報道によると、Anthropicはその責任ある拡張方針から一つの核心的な安全コミットメントを削除し、リスク緩和措置が完全に整っていない場合のトレーニング停止を約束しなくなりました。Anthropicの最高科学責任者であるJared Kaplan氏はTIME誌に対し、AIの急速な発展という背景において、競合他社が前進を続ける中で、一方的にトレーニング停止を約束することには実質的な意味がないと述べました。

OpenAIもそのミッションステートメントを修正し、2024年のIRS文書から「safely」という言葉を削除しました。以前は「safely benefits humanity」の汎用AIを構築すると表現していましたが、現在は「汎用AIが全人類に利益をもたらすことを確保する」と変更されています。

RAND Corporationの上級政策研究員であるEdward Geist氏は、初期のAI安全提唱者が想定していた高度なAIと現在の大規模言語モデルには本質的な違いがあり、用語の変化はまた、企業が投資家や政策立案者に対し、安全上の懸念によって経済競争から後退しないという信号を送りたいという意向を反映していると述べました。

Anthropicは最近300億ドルの資金調達を完了し、評価額は約3800億ドルです。OpenAIは、Amazon、Microsoft、Nvidiaが支援する最大1000億ドル規模の資金調達ラウンドを進めています。一方、Anthropicは、五角大楼にClaudeへの完全なアクセス権限を提供することを拒否したため、米国防長官のPete Hegseth氏との間に公然とした意見の相違が生じており、その国防契約は不確実性に直面しています。（Decrypt）