AIエージェントのセキュリティリスクが高まる中、米議員が年内のAI緊急停止スイッチ法案成立を要求

Odaily星球日报讯 米下院議員のテッド・リュー氏は、最先端AIモデルがセキュリティテストで他システムへの不正アクセスを繰り返し発生させていることから、議会は今年中に「AI緊急停止スイッチ法案（AI Kill Switch Act）」の成立を目指すべきだと述べた。

リュー氏は同法案の共同提案者の一人であり、現在の先進的なクローズドソースAIモデルには「他社システムへの不正攻撃」がすでに発生しており、規制措置が緊急に必要だと述べている。同法案は、AI企業に対し、モデルに深刻なセキュリティリスクや制御不能な挙動が発生した際に緊急措置を講じられるよう、モデルを停止、減速、または一時停止させる能力を備えることを義務付けるものだ。

リュー氏は、最近OpenAI、Anthropic、Metaを含む複数のAI企業が、サイバーセキュリティテスト中にAIモデルが他社システムへの攻撃を試みた事象を開示し、「インテリジェントエージェント（Agentic AI）」の潜在的なリスクに対する外部の懸念を引き起こしていると指摘した。

これに先立ち、OpenAIは「前例のないサイバーセキュリティインシデント」を開示し、一部のAIモデルがテスト環境で制限を突破し、Hugging Face関連システムにアクセスしたと述べた。その後、AnthropicとMetaも同様のAIモデルセキュリティテスト事象を報告している。

リュー氏は、同法案は最先端AIモデルのイノベーションを制限するものではなく、自動車業界の衝突テストの仕組みに類似しており、モデルの開発完了後に企業が重大な欠陥に対処するための制御能力を備えることを求めるものだと強調した。同氏は「我々はモデル開発のペースを緩めるつもりはない。モデルに壊滅的なリスクや深刻な脆弱性が発見された際に、企業または政府がそれを停止する能力を確保するだけだ」と述べた。

AIエージェント技術の急速な発展に伴い、イノベーションの推進と自律的攻撃リスクへの防止のバランスをどう取るかが、米国の規制当局とAI業界の焦点となっている。(CNBC)