1178名のトップAI企業従業員が共同声明を発表、国際協力を呼びかけ最先端AI開発のペースを制御

Odaily星球日报ニュース 1178名の最先端AI企業従業員が共同で「Pacing the Frontier」声明を発表し、米国政府に対し、最先端AI開発を積極的に調整するための技術とガバナンスツールを開発する国際協力を支援するよう呼びかけました。

声明によると、世界をリードするAI企業は、近い将来に自動化されたAI研究が実現可能になる可能性があると考えています。これがAIの進歩をどの程度加速させるか正確に予測することはできませんが、AIの能力が人間の理解と制御能力を急速に超えるリスクが存在します。

署名者らは、業界、政府、社会が新たなリスクに対処し、安全対策を強化し、規制を強化するために「時間を稼ぐ」選択肢を保持する必要があると述べています。しかし、企業と国家の両方が競争圧力に直面しているため、現在、世界には最先端AI開発のペースを積極的に制御できるガバナンスメカニズムが不足しています。

声明は、最先端のAIエージェントがすでに実際のソフトウェアの脆弱性を発見し悪用する能力を備えており、安全対策が欠如している場合、大規模なサイバー攻撃に利用される可能性があると指摘しています。

OpenAI、Anthropic、Google、Metaなどの複数の従業員が署名に参加し、AI開発を推進しつつ潜在的なリスクを低減するための国際的な調整メカニズムの確立が必要であると認識しています。