Anthropic CEO：政府は新モデルの展開を阻止する権限を持つべき

Odaily 星球日报 讯 Anthropic のCEOダリオ・アモデイ氏は、新たな人工知能モデルに特定のリスクが存在する場合、政府はその展開を阻止する権限を持つべきだと述べた。アモデイ氏は水曜日に長文を発表し、AIモデルは複数の分野で引き起こす可能性のあるリスクを評価するため、強制的な第三者テストを受けるべきだと主張した。彼は、AIが「許容できないリスク」があると判断された場合、「政府はその展開を阻止または抑制する権限を持つべきだ」と記した。これは、アモデイ氏がこれまでにAI規制強化について行った最も強い意見表明の一つである。アモデイ氏は次のように記している。「少なくとも現在の指数関数的な発展段階においては、自動車、飛行機、医薬品が最も適切な類推だと考えます。これらの技術は現代経済に不可欠ですが、設計や使用方法を誤れば、大量の死傷者を出す可能性もあります。」Anthropicは以前、同社が開発したAIモデル「Mythos」が重要なソフトウェアの脆弱性を発見し悪用する能力を持っているとして限られたパートナーにのみ公開したと警告を発していた。今週、Anthropicは関連するサイバーセキュリティ攻撃能力を削除した新バージョンをリリースした。（金十）