Anthropic CEOが警告：オープンソースAIは危険な道へ進んでおり、不可逆的な悪用のリスクがある

Odaily 星球日報 AnthropicのCEOであるDario Amodei氏は、米国議会での議員向けの講演において、オープンソースAIの開発は「非常に危険な道」に入りつつあると述べました。高い能力を持つAIモデルがオープンソース形式で公開されると、開発者はモデルの使用状況を効果的に監視する能力を失い、悪用行為の監視、アクセス権限の取り消し、またはセキュリティ保護メカニズムの動的な更新が不可能になり、潜在的なリスクが著しく増大します。Dario Amodei氏は、クローズドなモデルシステムと比較して、完全にオープンなモデルは安全ガバナンスにおいて継続的な制御を実施するのがより困難であり、不可逆的な悪用の危険性をもたらす可能性があると強調しました。（BitcoinNews）