Anthropic、AIの自己反復リスクに警鐘：Claudeが社内コードの約80%を自動生成

Odaily星球日报訊 人工知能企業Anthropicは、再帰的自己改良（Recursive Self-Improvement、RSI）が重大なリスクをもたらす可能性があると警告を発した。先週、Anthropicは同社のAIモデルClaudeが現在、社内コードの約80%を生成できるようになったと発表。これはAIが「自己反復」段階、すなわち人間の介入なしに次世代AIシステムを設計できる段階に入った重要なシグナルであると同社は述べている。

再帰的自己改良の概念は近年、シリコンバレーで広く注目を集めている。先月、OpenAIはサンフランシスコで関連会議を開催し、AIの自己反復がもたらす可能性とリスクについて議論するため、多数の研究者が集まった。Anthropicの声明は、AI能力の急速な向上に伴い、制御不能な行動の可能性に対する監視と安全メカニズムの構築がますます緊急であることを強調している。（The Information）