《뉴요커》 심층 조사 기사 해석: OpenAI 내부 인사들은 왜 Altman을 신뢰할 수 없다고 확신하는가?

원문 저자: 샤오빙, 선차오 테크플로우

2023년 가을, OpenAI 최고 과학자 일리아 수츠케버는 컴퓨터 앞에 앉아 70페이지 분량의 문서를 완성했다.

이 문서는 슬랙 메시지 기록, HR 커뮤니케이션 파일, 내부 회의록을 정리한 것으로, 단 하나의 질문에 답하기 위한 것이었다: 인류 역사상 가장 위험한 기술을 장악한 사람, 샘 올트먼을 과연 신뢰할 수 있는가?

수츠케버가 내린 답은 문서 첫 페이지 첫 줄에 적혀 있었다. 목록 제목은 "샘은 일관된 행동 패턴을 보여왔다..."였다.

첫 번째 항목: 거짓말.

2년 반이 지난 오늘, 조사 저널리스트 로난 패로우와 앤드류 마란츠는 <뉴요커>에 초대형 조사 기사를 발표했다. 100명 이상의 당사자를 인터뷰하고, 이전에 공개된 적 없는 내부 메모를 입수했으며, Anthropic 창립자 다리오 아모데이가 OpenAI 재직 시절 남긴 200페이지가 넘는 개인 노트도 확보했다. 이 문서들이 맞춰 그려낸 이야기는 2023년 그 '궁중 암투'보다 훨씬 더 추악했다: 어떻게 OpenAI가 인류 안전을 위해 탄생한 비영리 조직에서, 한 걸음 한 걸음씩 상업 기계로 변해갔는지, 그리고 거의 모든 안전 장치가 동일한 인물에 의해 직접 무너져 내렸는지.

아모데이는 노트에서 더 직설적인 결론을 내렸다: "OpenAI의 문제는 샘 본인이다."

OpenAI의 '원죄' 설정

이 기사의 무게를 이해하려면, OpenAI라는 회사가 얼마나 특별한지 먼저 말해야 한다.

2015년, 올트먼과 실리콘밸리 엘리트 그룹은 상업 역사상 거의 전례가 없는 일을 했다: 비영리 조직을 설립하여 인류 역사상 가장 강력할 수 있는 기술을 개발하는 것이다. 이사회의 책임은 분명히 명시되었다: 안전이 회사의 성공보다, 심지어 회사의 생존보다 우선한다. 쉽게 말해, 만약 어느 날 OpenAI의 AI가 위험해진다면, 이사회는 이 회사를 직접 닫아야 할 의무가 있다.

이 전체 구조는 하나의 가정에 걸려 있었다: AGI를 장악할 사람은 극도로 정직한 사람이어야 한다.

만약 그 가정이 틀렸다면?

기사의 핵심 폭탄은 바로 그 70페이지 문서다. 수츠케버는 사무실 정치를 하지 않는다. 그는 세계 최고의 AI 과학자 중 한 명이다. 하지만 2023년에 이르러 그는 점점 더 확신하게 된 것이 있다: 올트먼이 고위 간부들과 이사회에게 지속적으로 거짓말을 하고 있다는 것.

구체적인 예시: 2022년 12월, 올트먼은 이사회 회의에서 발표 예정인 GPT-4의 여러 기능들이 이미 안전 심사를 통과했다고 보장했다. 이사회 멤버 토너가 승인 서류를 요구했고, 결과는 가장 논란이 많은 두 기능(사용자 맞춤형 파인튜닝 및 개인 비서 배포)이 안전 패널의 승인을 전혀 받지 못했다는 것이었다.

더 터무니없는 일은 인도에서 벌어졌다. 한 직원이 다른 이사회 멤버에게 '그 위반 사건'을 제보했다: 마이크로소프트가 필요한 안전 심사를 완료하지 않은 채, 인도에서 ChatGPT 초기 버전을 조기 출시했다는 것이다.

수츠케버는 메모에서 또 다른 사건을 기록했다: 올트먼이 전 CTO 미라 무라티에게 안전 승인 절차는 그다지 중요하지 않으며, 회사 법무 총괄이 이미 인정했다고 말한 적이 있었다. 무라티가 법무 총괄에게 확인하러 갔고, 상대방은 이렇게 답했다: "샘이 어디서 그런 인상을 받았는지 모르겠습니다."

아모데이의 200페이지 개인 노트

수츠케버의 문서는 검사의 기소장 같다. 아모데이가 남긴 200페이지가 넘는 노트는 더욱 범죄 현장에서 목격자가 쓴 일기와 같다.

아모데이가 OpenAI에서 안전 책임자로 일하던 몇 년 동안, 그는 회사가 상업적 압박에 한 걸음씩 물러서는 것을 직접 목격했다. 그는 노트에 2019년 마이크로소프트 투자 건의 핵심 세부 사항을 기록했다: 그는 OpenAI 헌장에 '합병 및 지원' 조항을 집어넣었는데, 대략 다른 회사가 더 안전한 AGI 경로를 찾으면, OpenAI는 경쟁을 중단하고 그 회사를 도와야 한다는 내용이었다. 이것이 그가 전체 거래에서 가장 중요하게 여긴 안전 보장이었다.

거래가 막 서명되려 할 때, 아모데이는 한 가지 사실을 발견했다: 마이크로소프트가 이 조항에 대한 거부권을 얻었다는 것이다. 무슨 뜻인가? 만약 정말 어느 날 경쟁사가 더 나은 길을 찾더라도, 마이크로소프트가 한마디로 OpenAI의 지원 의무를 막을 수 있다는 것이다. 조항은 종이 위에는 남아 있지만, 서명하는 그날부터 휴지 조각이 된 셈이다.

아모데이는 이후 OpenAI를 떠나 Anthropic을 창립했다. 두 회사 사이의 경쟁은 근본적으로 'AI는 어떻게 개발되어야 하는가'에 대한 근본적인 차이에서 비롯된다.

사라진 20% 컴퓨팅 파워 약속

기사에는 읽고 나면 등골이 오싹해지는 세부 사항이 하나 있다. OpenAI의 '슈퍼 얼라인먼트 팀'에 관한 것이다.

2023년 중반, 올트먼은 버클리에서 '기만적 얼라인먼트'(AI가 테스트에서는 착한 척하다가 실제 배포 후에는 자기 방식대로 행동하는 현상)를 연구하던 박사 과정 학생에게 이메일을 보내 이 문제를 매우 우려하며, 100억 달러 규모의 글로벌 연구상을 고려 중이라고 말했다. 박사 과정 학생은 고무되어 휴학하고 OpenAI에 합류했다.

그러자 올트먼은 마음을 바꿨다: 외부 상은 하지 않고, 회사 내부에 '슈퍼 얼라인먼트 팀'을 설립하겠다는 것이다. 회사는 고조된 어조로 "기존 컴퓨팅 파워의 20%"를 이 팀에 할당할 것이며, 잠재적 가치는 100억 달러를 넘을 것이라고 발표했다. 공고문의 어조는 극도로 엄숙했으며, 얼라인먼트 문제가 해결되지 않으면 AGI가 "인류의 권력 박탈, 심지어 인류 멸종"을 초래할 수 있다고 말했다.

이 팀을 이끌도록 임명된 얀 라이케는 후에 기자에게 이 약속 자체가 매우 효과적인 '인재 유지 도구'였다고 말했다.

현실은 어떠했는가? 이 팀에서 일했거나 밀접하게 접촉한 네 명의 관계자에 따르면, 실제 할당된 컴퓨팅 파워는 회사 총 컴퓨팅 파워의 1~2%에 불과했고, 그것도 가장 낡은 하드웨어였다. 이 팀은 후에 해체되었고, 임무는 완수되지 못했다.

기자가 OpenAI의 '실존적 안전' 연구 담당자와의 인터뷰를 요청했을 때, 회사 홍보팀의 반응은 어이없을 정도였다: "그것은... 실제로 존재하는 것이 아닙니다."

올트먼 본인은 오히려 담담했다. 그는 기자에게 자신의 '직감은 많은 전통적인 AI 안전 개념과 잘 맞지 않는다'고 말했으며, OpenAI는 여전히 '안전 프로젝트, 아니면 적어도 안전과 관련된 프로젝트'를 할 것이라고 했다.

무력화된 CFO와 다가오는 IPO

<뉴요커>의 보도는 이날 나쁜 소식의 절반에 불과했다. 같은 날, The Information은 또 다른 중대한 소식을 폭로했다: OpenAI의 CFO 사라 프라이어와 올트먼 사이에 심각한 불화가 발생했다는 것.

프라이어는 동료들에게 사적으로 OpenAI가 올해 상장할 준비가 되지 않았다고 느낀다고 말했다. 두 가지 이유: 완료해야 할 절차적, 조직적 작업량이 너무 많고, 올트먼이 약속한 5년간 6000억 달러 규모의 컴퓨팅 파워 지출이 가져올 재정적 위험이 너무 높다는 것이다. 그녀는 OpenAI의 매출 성장이 이런 약속들을 버틸 수 있을지조차 확신하지 못했다.

하지만 올트먼은 올해 4분기에 IPO를 추진하고 싶어 했다.

더 터무니없는 것은, 프라이어가 더 이상 올트먼에게 직접 보고하지 않는다는 점이다. 2025년 8월부터 그녀는 피지 시모(OpenAI의 애플리케이션 비즈니스 CEO)에게 보고하도록 변경되었다. 그리고 시모는 지난주 건강상의 이유로 병가를 냈다. 이 상황을 음미해 보라: IPO를 추진하는 회사에서 CEO와 CFO가 근본적인 불화를 겪고, CFO는 CEO에게 보고하지 않으며, CFO의 상사는 휴가 중이다.

마이크로소프트 내부의 고위 간부들조차 더 이상 참지 못하고, 올트먼이 "사실을 왜곡하고, 약속을 어기며, 이미 합의된 협정을 끊임없이 뒤집는다"고 말했다. 한 마이크로소프트 고위 간부는 심지어 이런 말까지 했다: "나는 그가 최종적으로 버니 메이도프나 SBF 급의 사기꾼으로 기억될 확률이 있다고 생각합니다."

올트먼의 '양면적 인물' 초상

한 전직 OpenAI 이사회 멤버는 기자에게 올트먼에게 있는 두 가지 특성을 묘사했다. 이 말은 아마도 전체 기사에서 가장 가혹한 인물 묘사일 것이다.

이 이사는 말했다, 올트먼은 극히 드문 특성의 조합을 가지고 있다고: 그는 모든 대면 교류에서 상대방을 기쁘게 하고, 상대방에게 사랑받고자 하는 강렬한 욕망을 가진다. 동시에, 그는 다른 사람을 속이는 것이 가져올 결과에 대해 거의 사회 병리학적인 무관심을 보인다.

두 특성이 한 사람에게 동시에 나타나는 것은 극히 드물다. 하지만 세일즈맨에게는 가장 완벽한 재능이다.

기사에 잘 표현된 비유가 하나 있다: 스티브 잡스는 '현실 왜곡 장'으로 유명했고, 그는 전 세계가 그의 비전을 믿게 만들 수 있었다. 하지만 잡스조차도 고객에게 "내 MP3 플레이어를 사지 않으면 당신이 사랑하는 사람들이 모두 죽을 것이다"라고 말한 적은 없다.

올트먼은 AI에 대해 비슷한 말을 한 적이 있다.

한 CEO의 인성 문제가, 왜 모두의 위험인가

올트먼이 단지 평범한 테크 회사의 CEO였다면, 이런 혐의는 기껏해야 흥미로운 비즈니스 소문에 불과했을 것이다. 하지만 OpenAI는 평범하지 않다.

그들 스스로의 주장에 따르면, 그들은 인류 역사상 가장 강력할 수 있는 기술을 개발 중이다. 이 기술은 글로벌 경제와 노동 시장을 재구성할 수 있고(OpenAI는 방금 AI로 인한 실업 문제에 관한 정책 백서를 발표했다), 대량 살상 생화학 무기를 제조하거나 사이버 공격을 발동하는 데 사용될 수도 있다.

모든 안전 장치는 이름뿐인 존재가 되었다. 창립자의 비영리적 사명은 IPO 추진에 자리를 내주었다. 전 최고 과학자와 전 안전 책임자 모두 CEO를 '신뢰할 수 없다'고 판단했다. 파트너는 CEO를 SBF에 비유했다. 이런 상황에서, 이 CEO가 무엇을 근거로 인류의 운명을 바꿀 수 있는 AI 모델을 언제 출시할지 단독으로 결정할 권한이 있는가?

게리 마커스(뉴욕대 AI 교수, 장기간 AI 안전 옹호자)는 기사를 읽고 난 후 이렇게 썼다: 만약 미래의 어떤 OpenAI 모델이 대량 살상 생화학 무기를 만들거나 재앙적인 사이버 공격을 발동할 수 있다면, 정말로 올트먼 혼자서 출시 여부를 결정하도록 내버려 둘 수 있겠는가?

OpenAI는 <뉴요커>에 대한 답변은 간결했다: "이 기사의 대부분은 이미 보도된 사건들을 재탕한 것이며, 익명의 주장과 선택적인 일화를 통해, 소식통이 분명히 개인적인 목적을 가지고 있습니다."

매우 올트먼스러운 대응 방식이다: 구체적인 혐의에는 답하지 않고, 메모의 진실성은 부인하지 않으며, 동기만 의심한다.

비영리의 시체 위에서, 돈나무가 자라났다

OpenAI의 10년을 이야기 개요로 쓰면 이렇다:

AI 위험을 우려한 이상주의자들이 사명 추진형 비영리 조직을 창립했다. 조직은 비범한 기술적 돌파