Anthropic：世界的に最先端AI開発の一時停止を呼びかけ

Odaily星球日报 Anthropicは、大手AIラボに対し、研究開発のペースを緩めることを検討するよう呼びかけ、AIシステムの進化が極めて速く、まもなく人間の介入なしに自己改善が可能になり、その能力が重大な社会的リスクを引き起こす可能性があると述べた。Anthropicが開示した内部データによると、最も先進的なモデルの性能が急速に向上しており、AIモデルの進歩は「再帰的な自己改善」（AIシステムが人間の介入なしに自律的に最適化すること）へと向かっているようだ。Anthropicは、世界が最先端AI開発の速度を緩めたり一時的に中止したりする選択ができ、それによって社会構造と関連研究が技術発展の歩みに追いつくことができれば、世界に利益をもたらすと述べている。Anthropicは、AI開発の速度をどのように緩めるかを明確にし、競合他社が協定を遵守しているかを検証するメカニズムを確立するための世界的な合意を提案している。