OpenAIはAI生成コンテンツの出所追跡と検証システムを強化、EUのAI透明性ガイドラインを支持

Odaily星球日报讯 OpenAIは、欧州委員会が発行した「AI生成コンテンツの透明性に関する実践規範」（Code of Practice on Transparency of AI-Generated Content）への支持を発表し、信頼できるAIエコシステムの構築を促進し、AI生成コンテンツの出所追跡と透明化を強化することを目指しています。

OpenAIは、この規範が欧州連合の「AI法案」（EU AI Act）を実施する上での重要な一歩であると述べています。今回の支持は、OpenAIが長年にわたりコンテンツの出所（プロvenance）に関する研究、製品開発、およびエコシステムの協力の上に成り立っています。

紹介によると、OpenAIは2024年からDALL·E 3画像生成ツールにC2PAメタデータを組み込み始め、AI生成コンテンツの出所を識別しています。その後、OpenAIはコンテンツのマーキング、検出技術を継続的に改善し、公開検証ツールを導入して、ユーザーが画像にOpenAIが生成したコンテンツに関連する出所シグナルが含まれているかどうかを判断できるようにしました。OpenAIは現在、以下のような多層的なコンテンツ出所戦略を採用していると述べています。

ChatGPT、Codex、およびAPIで生成された画像にC2PA Content Credentialsを追加。

AI生成画像にC2PAメタデータとSynthIDウォーターマークを組み合わせ、出所識別能力を向上。

公開検証ツールを導入し、ユーザーがサポートされている画像にOpenAI生成の出所シグナルが含まれているかどうかを検出できるようにする。

コンテンツ出所と信頼性のための連合（C2PA）標準構築に参加し、業界全体の統一されたコンテンツ出所規範を推進。

OpenAIは、AIコンテンツの出所技術はまだ発展段階にあり、メタデータはアップロード、ダウンロード、フォーマット変換、スクリーンショットなどの操作により失われる可能性があり、ウォーターマークも影響を受ける可能性があると指摘しています。そのため、業界全体でより信頼性が高く、相互運用可能な検証メカニズムを共同で推進する必要があります。

OpenAIは、製品におけるコンテンツの透明性構築を引き続き強化し、オープンスタンダードの策定に参加し、EU AIオフィス、加盟国、およびグローバルなAIコミュニティと協力して、より安全で透明性が高く、信頼できるAIエコシステムの構築を推進していくと述べています。