OpenAI、AIを悪用した2件の秘密影響工作を公開：AIを利用して「偽の身分」を作り出しコンテンツを拡散

Odaily星球日报によると、OpenAIは報告書を発表し、最近、同社のモデルを利用して秘密影響工作（IO）を行っていた2つのグループを禁止したと述べた。これらの工作はAIと従来の技術を組み合わせて「偽のフロント」実体と偽の身分を作り出していた。OpenAIによると、ロシア関連の工作「Dark Clark」は「社会研究センター（SRC）」という偽のシンクタンクを支配し、ChatGPTを利用して内部報告書を執筆し、コンテンツを生成し、ラテンアメリカ地域で影響活動を展開していた疑いがある。この工作はOpenAIによってIO突破規模（IO Breakout Scale）第5級と評価され、同社が関連工作の公開を開始して以来、初めてこのレベルに達した事例である。

OpenAIは、AIはこの種の影響工作の基本的なパターンを変えてはいないが、その規模、効率、言語能力、コンテンツ生産能力を高め、攻撃者が偽の身分を作り出し、コンテンツを偽造し、情報を実際のメディアチャネルに拡散することを容易にしていると述べた。