Sam Altman: AI 개발 속도를 조절한다는 것은 중단을 의미하는 것이 아니지만, 능력 향상 속도가 안전 정렬 및 모니터링을 앞질러서는 안 된다

Odaily 보도: OpenAI CEO Sam Altman이 X 플랫폼에 글을 올려 미국이 연방 차원의 프런티어 AI 안전 규제 프레임워크를 구축하여 업계에 일관된 안전 요구사항을 마련하는 것을 환영한다고 밝혔습니다. 다만 AI 기업들은 반독점 면제나 관련 법안 제정을 기다릴 필요 없이 자발적으로 안전 조치를 취할 수 있다고 덧붙였습니다.

Altman은 OpenAI가 현재 모델 능력을 크게 향상시킬 것으로 예상되는 프런티어 강화학습 훈련을 시작하기 전에 명확한 안전 논증을 사전에 수립하고 있으며, 업계가 모델 통제 상실 위험, 모니터링 및 안전 측면에서 공통 표준을 형성하기를 바란다고 말했습니다. 그는 AI 발전의 이른바 '속도 조절(pacing)'이란 진보를 멈추는 것이 아니라 안전 조치가 가져오는 속도와 비용의 대가를 받아들여야 한다는 의미라며, "미국이 어떤 경쟁 압력에 직면하든 AI 능력의 발전 속도가 정렬 및 모니터링 능력을 초과해서는 안 된다"고 강조했습니다.

앞서 Anthropic, OpenAI, Google은 7월부터 각자의 AI 안전 표준 기관 설립을 위한 실무 그룹 협의를 진행해 왔습니다. 또한 미국 민주당 의원들은 화요일 오전 당 원내회의를 열어 인공지능 관련 입법 활동을专门 논의할 예정이며, AI가 가져오는 도전에 대응하는 것이 '높은 우선순위'라며 신속한 조치가 필요하다고 밝혔습니다.