펜타곤의 최후통첩: Anthropic의 72시간 생존 위기

원문 저자: Ada, Shenchao TechFlow

2월 24일, 화요일. 워싱턴, 펜타곤.

Anthropic CEO Dario Amodei가 국방장관 Pete Hegseth와 마주 앉아 있다. NPR과 CNN 등 여러 매체가 관계자들의 말을 인용해 보도한 바에 따르면, 회담 분위기는 '예의 바르다'지만 내용은 전혀 그렇지 않았다.

Hegseth는 그에게 최후통첩을 내렸다: 금요일 오후 5시 1분까지 Claude의 군사 사용 제한을 해제하고, 펜타곤이 이를 '모든 합법적 용도'에 사용할 수 있도록 허용하라. 이는 자율 무기 조준 및 국내 대규모 감시를 포함한다.

그렇지 않으면 2억 달러 계약을 취소한다. 국방생산법을 발동하여 강제 징발한다. Anthropic을 '공급망 위험'으로 지정한다. 이는 러시아와 중국의 적대적 실체 블랙리스트에 포함시키는 것과 같다.

같은 날, Anthropic은 세 번째 버전의 '책임 있는 확장 정책'(RSP 3.0)을 발표하며, 회사 설립 이래 가장 핵심적인 약속 하나를 조용히 삭제했다: 안전 조치가 제대로 마련되지 않으면 더 강력한 모델을 훈련시키지 않겠다는 약속.

또한 같은 날, Elon Musk는 X에 게시물을 올리며 말했다: "Anthropic이 대규모로 훈련 데이터를 훔쳤습니다. 이것은 사실입니다." 동시에, X의 커뮤니티 노트는 Anthropic이 불법 복제된 책을 사용해 Claude를 훈련시킨 혐의로 150억 달러의 합의금을 지불했다는 보도를 보충했다.

72시간 안에, 스스로 '영혼'이 있다고 주장하는 이 AI 회사는 동시에 세 가지 역할을 연기했다: 안전 순교자, 지적 재산권 도둑, 펜타곤의 배신자.

어느 것이 진짜일까?

아마도 모두일 것이다.

펜타곤의 '복종하거나, 아니면 꺼져'

이야기의 첫 번째 층위는 간단하다.

Anthropic은 미국 국방부 기밀 등급 접근 권한을 획득한 첫 번째 AI 회사다. 작년 여름에 체결한 계약으로, 상한선은 2억 달러다. OpenAI, Google, xAI도 이후 각각 동등한 규모의 계약을 따냈다.

Al Jazeera 보도에 따르면, Claude는 올해 1월의 한 미군 작전에 사용된 적이 있다. 보도는 이 작전이 베네수엘라 대통령 마두로의 납치와 관련이 있다고 전했다.

그러나 Anthropic은 두 가지 선을 그었다: 완전 자율 무기 조준을 지원하지 않으며, 미국 시민에 대한 대규모 감시를 지원하지 않는다. Anthropic은 인공지능의 신뢰성이 무기를 조종하기에 충분하지 않으며, 현재 인공지능의 대규모 감시 적용을 규제하는 법률이나 규정이 없다고 판단했다.

펜타곤은 받아들이지 않았다.

백악관 AI 고문 David Sacks는 지난해 10월 X에서 공개적으로 Anthropic을 비난하며 "공포를 무기로 삼아 규제 포획을 시도하고 있다"고 주장했다.

경쟁사들은 이미 무릎을 꿇었다. OpenAI, Google, xAI 모두 군이 그들의 AI를 '모든 합법적 시나리오'에 사용하는 것을 허용하기로 동의했다. Musk의 Grok는 이번 주에 기밀 시스템 진입이 승인되었다.

Anthropic은 마지막까지 서 있는 유일한 회사다.

기사 작성 시점까지, Anthropic은 최근 발표한 성명에서 양보할 의사가 없다고 밝혔다. 하지만 금요일 오후 5시 1분이라는 마감 시간이 코앞으로 다가왔다.

익명을 요구한 전 법무부-국방부 연락관은 CNN에 혼란스러움을 표시했다: "어떻게 한 회사를 '공급망 위험'으로 선언하는 동시에, 그 회사가 당신의 군대를 위해 일하도록 강요할 수 있습니까?"

좋은 질문이지만, 이는 펜타곤의 고려 범위에 들지 않는다. 그들이 관심 있는 것은, Anthropic이 타협하지 않으면 강제 수단을 취하거나, 워싱턴의 버림받은 자가 될 것이라는 점이다.

'증류 공격': 면상을 후려치는 고발

2월 23일, Anthropic은 강경한 어조의 블로그 글을 발표하며 세 개의 중국 AI 회사가 Claude에 대해 '산업 수준의 증류 공격'을 수행했다고 고발했다.

피고는 DeepSeek, Moonshot AI, MiniMax다.

Anthropic은 그들이 2만 4천 개의 가짜 계정을 통해 Claude에 1,600만 회 이상의 상호작용을 발동하여, Claude의 에이전트 추론, 도구 호출 및 프로그래밍 분야의 핵심 능력을 표적 추출했다고 주장했다.

Anthropic은 이 사건을 국가 안보 위협으로 규정하며, 증류된 모델이 '안전 장치를 유지할 가능성이 낮아' 권위주의 정부에 의해 사이버 공격, 허위 정보 및 대규모 감시에 사용될 수 있다고 주장했다.

서사는 완벽했고, 타이밍도 완벽했다.

트럼프 행정부가 중국에 대한 반도체 수출 통제를 완화한 직후, Anthropic이 자사의 반도체 수출 통제 로비 입장을 위한 탄약을 찾아야 할 때였다.

하지만 Musk가 일침을 가했다: "Anthropic은 대규모로 훈련 데이터를 훔쳤고, 이를 위해 수십억 달러의 합의금을 지불했습니다. 이것은 사실입니다."

AI 인프라 회사 IO.Net의 공동 창립자 Tory Green은 말했다: "당신들은 전 네트워크의 데이터로 자신들의 모델을 훈련시키고, 다른 사람들이 당신들의 공개 API를 사용해 당신들을 학습시키면 '증류 공격'이라고 부르는 겁니까?"

Anthropic은 증류를 '공격'이라고 부르지만, 이 일은 AI 업계에서는 흔한 일이다. OpenAI는 GPT-4를 압축하는 데 사용하고, Google은 Gemini를 최적화하는 데 사용하며, 심지어 Anthropic 자신도 하고 있다. 유일한 차이는, 이번에는 그들 자신이 증류당했다는 점이다.

싱가포르 난양 공과대학교 AI 교수 Erik Cambria는 CNBC에 대해 다음과 같이 말했다: "합법적 사용과 악의적 이용 사이의 경계는 종종 모호합니다."

더욱 아이러니한 것은, Anthropic이 방금 불법 복제된 책을 사용해 Claude를 훈련시킨 혐의로 150억 달러의 합의금을 지불했다는 점이다. 그들은 전 네트워크의 데이터로 모델을 훈련시키고, 다른 사람들이 그들의 공개 API를 사용해 그들을 학습시킨다고 고발한다. 이것은 이중 잣대가 아니라 삼중 잣대다.

Anthropic은 피해자 역할을 하려 했지만, 결과적으로 피고인으로 폭로되었다.

안전 약속의 해체: RSP 3.0

펜타곤과 대치하고, 실리콘밸리와 서로 물고 뜯는 바로 그날, Anthropic은 세 번째 버전의 책임 있는 확장 정책을 발표했다.

Anthropic 최고 과학자 Jared Kaplan은 미디어 인터뷰에서 다음과 같이 말했다: "우리는 AI 모델 훈련을 중단하는 것이 누구에게도 도움이 되지 않는다고 생각합니다. AI가 빠르게 발전하는 배경에서, 일방적으로 약속을 하는 것은... 경쟁사들이 전속력으로 나아가는 상황에서 의미가 없습니다."

다시 말해, 다른 사람들이 무도(武德)를 지키지 않으니, 우리도 더 이상 숨기지 않겠다는 것이다.

RSP 1.0과 2.0의 핵심은, 모델의 능력이 안전 조치의 범위를 초과하면 훈련을 중단하겠다는 단호한 약속이었다. 이 약속은 Anthropic이 AI 안전계에서 독보적인 명성을 얻도록 했다.

하지만 3.0에서는 삭제되었다.

대신 더 '유연한' 프레임워크, 즉 Anthropic 자신이 할 수 있는 안전 조치와 전 산업 협력이 필요한 안전 권고를 두 개의 트랙으로 나누는 방식으로 대체되었다. 3-6개월마다 위험 보고서를 발행한다. 외부 전문가의 검토를 요청한다.

책임져 보인다?

비영리 단체 METR의 독립 심사관 Chris Painter는 정책 초안을 검토한 후 다음과 같이 말했다: "이는 Anthropic이 '분류 모드'에 들어갈 필요가 있다고 생각한다는 것을 보여줍니다. 왜냐하면 위험 평가 및 완화 방법이 능력 증가 속도를 따라잡지 못하기 때문입니다. 이는 사회가 AI의 잠재적 재앙적 위험에 대해 준비되지 않았다는 것을 더 많이 증명합니다."

TIME 보도에 따르면, Anthropic은 이번 개정을 위해 거의 1년 동안 내부 논의를 벌였으며, CEO Amodei와 이사회는 만장일치로 통과시켰다. 공식적인 설명은, 원래 정책은 산업 합의를 촉진하기 위해 설계되었지만 결과적으로 산업이 전혀 따라오지 못했다는 것이다. 트럼프 행정부는 인공지능 발전에 대해 방임주의적 태도를 취했으며, 심지어 주별 관련 규정을 폐지하려고 시도했다. 연방 차원의 인공지능 법률은 요원하다. 2023년에 글로벌 거버넌스 프레임워크를 구축하는 것이 여전히 가능해 보였지만, 3년이 지난 지금 그 문은 분명히 닫혔다.

오랫동안 AI 거버넌스를 추적해 온 한 익명 연구원은 더 직접적으로 말했다: "RSP는 Anthropic의 가장 값진 브랜드 자산입니다. 훈련 중단 약속을 삭제하는 것은, 마치 한 유기농 식품 회사가 포장지에서 '유기농'이라는 단어를 조용히 떼어낸 다음, 지금의 검사가 더 투명하다고 말하는 것과 같습니다."

3,800억 달러 가치 평가 하의 정체성 분열

2월 초, Anthropic은 3,800억 달러 가치 평가로 300억 달러 자금 조달을 완료했으며, 아마존이 앵커 투자자다. 설립 이래로 연간 1,400억 달러의 수익을 실현했다. 지난 3년간 이 수치는 매년 10배 이상 증가했다.

동시에, 펜타곤은 그들을 블랙리스트에 올리겠다고 위협했다. Musk는 공개적으로 그들의 데이터 도용을 고발했다. 그들 자신의 핵심 안전 약속이 삭제되었다. Anthropic의 인공지능 안전 책임자 Mrinank Sharma는 사임 후 X에 다음과 같이 썼다: "세계가 위험에 처해 있습니다."

모순?

아마도 모순은 Anthropic의 유전자다.

이 회사는 전 OpenAI 간부들이 창립했다. 그들은 OpenAI가 안전 문제에서 너무 빠르게 나아가는 것을 걱정했기 때문이다. 그런 다음 그들은 스스로 회사를 세우고, 더 빠른 속도로 더 강력한 모델을 구축하면서, 전 세계에 이 모델들이 얼마나 위험한지 말했다.

비즈니스 모델은 한 문장으로 요약할 수 있다: 우리는 누구보다 AI를 더 두려워하므로, 당신은 우리가 AI를 만들도록 돈을 내야 한다.

이 서사는 2023-2024년에 완벽하게 작동했다. AI 안전은 워싱턴의 핫 키워드였고, Anthropic은 가장 인기 있는 로비스트였다.

2026년, 바람이 변했다.

'깨어난 AI'는 공격용 라벨이 되었고, 주 차원의 AI 규제 법안은 백악관에 의해 저지당했으며, Anthropic이 지지한 캘리포니아 SB 53 법안은 서명되어 법이 되었지만 연방 차원에서는 황무지다.

Anthropic의 안전 카드는 '차별화된 우위'에서 '정치적 부채'로 미끄러지고 있다.

Anthropic은 복잡한 균형 잡기를 하고 있다. 브랜드를 유지하기 위해 충분히 '안전'해야 하지만, 시장과 정부에 의해 버림받지 않기 위해 충분히 '유연'해야 한다. 문제는 양쪽의 관용 공간이 모두 줄어들고 있다는 점이다.

안전 서사, 아직 얼마나 가치가 있을까?

세 가지 일을 겹쳐서 보면, 그림이 선명해진다.

중국 회사들이 Claude를 증류한다고 고발하는 것은, 반도체 수출 통제 로비 서사를 강화하기 위한 것이다. 군비 경쟁에서 뒤처지지 않기 위해, 안전 중단 약속을