OpenAI, AI 보조 은밀 영향 공작 두 건 공개: AI를 이용해 '가짜 신원' 만들어 콘텐츠 유포

Odaily 보도에 따르면, OpenAI는 보고서를 발표하며 최근 자사 모델을 악용해 은밀 영향 공작(IO)을 전개한 두 개 조직을 차단했다고 밝혔다. 해당 공작은 AI와 전통 기술을 결합해 '가짜 전면' 실체와 허위 신원을 만들었다. OpenAI는 러시아 관련 공작 'Dark Clark'이 '사회연구센터(SRC)'라는 가짜 싱크탱크를 통제하며 ChatGPT를 이용해 내부 보고서를 작성하고 콘텐츠를 생성했으며, 라틴아메리카 지역에서 영향 활동을 전개한 것으로 의심된다고 밝혔다. 이 공작은 OpenAI가 IO 브레이크아웃 스케일(IO Breakout Scale) 5등급으로 평가했으며, 관련 공작을 공개하기 시작한 이래 처음으로 이 등급에 도달한 사례다.

OpenAI는 AI가 이러한 영향 공작의 기본 패턴을 바꾸지는 않았지만, 규모와 효율성, 언어 능력, 콘텐츠 생산 능력을 높여 공격자가 허위 신원을 만들고 콘텐츠를 위조하며 정보를 실제 미디어 채널로 유포하기 더 쉬워졌다고 밝혔다.