Anthropic、米国議会への働きかけでAI安全法案を推進、政府によるモデル停止の基準を10億ドル超の損失または50人の死傷に設定へ

Odaily星球日报訊 Anthropicは現在、米国議会議員に対して非公開で働きかけを行い、最先端AI安全法案の草案を推進している。この草案では、AIモデルに予見可能かつ差し迫った特定のリスクが存在し、10億ドルを超える経済的損失を引き起こす可能性、または少なくとも50人の死亡もしくは重傷を引き起こす可能性がある場合に限り、政府がモデルの運用停止を申請できると規定する予定である。

草案は規制の発動条件を、生物兵器の開発または拡散、AIモデルが開発者の制御を離れること、およびサイバー攻撃の3種類のリスクに限定している。同時に、AI開発企業に対して透明性のある安全テストの実施と独立した第三者評価の受け入れを求め、評価機関が関連するリスクを発見した後は72時間以内に米国商務省に報告し、商務省が連邦裁判所にモデルの運用停止を申請し、最終的に裁判所が裁定することとしている。

さらに、草案は他の米国政府機関および当局者が独自にAIモデルの開発、展開、または内部使用を停止する権限を制限する予定である。Anthropicは、この提案が安全評価メカニズムを構築すると同時に、政府に危険なモデルの展開を阻止する能力を与えることを目的としていると述べている。現在、草案はまだ働きかけの段階にあり、法律にはなっていない。（ロイター）