Anthropicモデルの安全性論争が激化、アマゾンが「黒幕」とされ規制当局の介入を招く

Odaily 星球日报 米国政府がAnthropicのモデルFable 5 / Mythos 5に対して輸出規制とアクセス制限を課した背景には、アマゾンによるサイバーセキュリティ研究や、AWS CEOのAndy Jassyとホワイトハウスとのコミュニケーションが一部影響している。

アマゾンが提出した調査によると、一連のプロンプトテストを通じて、研究者はFable 5にサイバー攻撃に悪用される可能性のある機密情報を出力させることに成功し、これが安全性への懸念を引き起こした。その後、Andy Jassyは関連する発見を米国政府レベルに報告し、ホワイトハウスが外国ユーザーによる同モデルへのアクセス禁止を含む、更なる制限措置を講じるきっかけとなった。

また、元米国商務省当局者のKate Koren氏は、ホワイトハウスのAnthropicに対する既存の政策姿勢も今回の判断に影響を与えた可能性があると指摘する。Anthropicは、大規模監視や致死性自律兵器システムへのモデル使用を拒否するなど、AIの安全性の境界線を巡りホワイトハウスと見解の相違があったためである。今年初めには両者の関係は一時的に改善し協力関係も拡大していたが、今回の出来事により再び緊張が高まる可能性がある。（ウォールストリートジャーナル）