扎克伯格AI开源宣言：蒸馏合法，垄断才是最大的风险

深潮TechFlow

特邀专栏作者

2026-08-11 03:30

이 기사는 약 2440자로, 전체를 읽는 데 약 4분이 소요됩니다

如果超级智能最终被少数机构控制，全人类都会输。

AI 요약

펼치기

핵심 요점: Meta CEO인 저커버그가 선언문을 발표하며 오픈소스 기치를 높이 들고, 초지능의 권력 분배가 집중이 아닌 분산되어야 한다고 주장했다. 그는 개인 역량 강화, 발명 우선, 권력 균형을 강조하며 폐쇄형 경쟁사의 독점 모델을 비판하고, Meta가 오픈소스 노선을 고수하되 가장 강력한 모델의 오픈소스화에는 신중한 태도를 유지할 것임을 선언했다.
핵심 요소:
1. 저커버그는 "AI가 집중될수록 위험하고, 분산될수록 안전하다"는 핵심 논점을 제시하며, 초지능은 소수 기관의 독점적 통제가 아닌 여러 연구소 간의 상호 견제를 통해 운영되어야 한다고 주장했다.
2. 그는 농업 기계화의 역사를 인용하며 "AI가 인간을 대체할 것"이라는 서사를 반박하고, AI가 1인 제품 스튜디오, 개인 생물학자와 같은 새로운 직업을 창출하여 기업의 규모는 작아지되 수는 늘어날 것이라고 예측했다.
3. 선언문은 OpenAI, Anthropic, Google이 기업과 정부를 위해 AI를 구축함으로써 권력의 균형추가 대형 기관으로 기울었다고 암시하며, "증류(distillation)"를 보호 가능한 학습 행위로 간주하고, OpenAI가 자사 출력을 사용해 경쟁 제품을 훈련시키는 것을 금지한 관행을 정면으로 겨냥했다.
4. 저커버그는 미국이 AI 모델 출시를 제한하면 외국(중국) 모델이 더 빠르게 앞서 나가게 될 것이라고 경고하며, 출시를 지연시키는 모든 정책에 반대하고 오픈소스 경쟁력을 국가 지도력의 차원으로 끌어올렸다.
5. Meta는 오픈소스 대상을 신중하게 선택하겠다고 밝혔으며, 향후 모델이 초지능 수준에 근접할 경우 완전한 오픈소스가 더 이상 기본 옵션이 아닐 수 있고, 대안으로 독립 이사회가 출시 안전 기준을 승인하는 방식을 제시했다.
6. 선언문은 "완전한 프라이버시 모드" 약속을 발표했다. AI 어시스턴트가 Meta 내부에서도 사용자 데이터를 볼 수 없으며, WhatsApp의 종단간 암호화에 비유했지만 엔지니어링 세부 사항은 없고 의향 선언에 불과하다.
7. Meta는 10억 달러 규모의 커뮤니티 펀드 설립을 발표하고, 데이터 센터가 소재한 지역사회 투자, 무료 기술 교육, 2030년까지 물 발자국 순긍정(Water Positive) 달성을 약속하여 컴퓨팅 인프라 확장에 따른 지역 반발을 완화하고자 했다.

원문 작성자: 샤오빙(小饼)

8월 10일, 저커버그는 메타 공식 홈페이지에 6500자에 달하는 장문의 글을 게재했습니다. 제목은 《The Future is for Everyone》(미래는 모든 사람의 것). 같은 날, 메타는 300억 파라미터 규모의 에이전트 모델인 Muse Glimmer를 Apache 2.0 라이선스로 오픈소스화했습니다.

FT(파이낸셜 타임스)는 이를 이렇게 해석했습니다: 저커버그는 폐쇄형 소스 경쟁사들을 공격하는 동시에 다시 한 번 오픈소스의 깃발을 높이 들었다.

이 선언문 전체에는 어떤 회사도 구체적으로 명시되지 않았지만, 모든 문단이 특정 대상을 겨냥하고 있습니다. OpenAI, Anthropic, Google은 글에서 언급된 "기업과 정부를 위해 AI를 만드는 실험실"이며, 저커버그는 오픈소스의 깃발을 들어 올렸습니다: 만약 초지능(superintelligence)이 결국 소수의 기관에 의해 통제된다면, 인류 전체가 패배할 것.

세 가지 원칙, 하나의 흐름

선언문의 골격은 세 가지 원칙으로 이루어져 있습니다.

개인에 대한 권한 부여는 번영의 원천입니다. 저커버그는 하나의 사고 실험을 제시합니다: 만약 전 세계에 단 한 명만이 초지능 변호사를 가질 수 있다면, 그 사람은 잘못된 쪽이더라도 소송에서 항상 이길 것입니다. 하지만 모든 사람이 각자 하나씩 가진다면, 오히려 사법 시스템이 더 공정해질 것입니다. 그는 이와 동일한 논리를 사이버 보안과 비즈니스 경쟁으로 확장합니다: 모든 사람이 동등한 AI 역량을 얻을 수 있다면, 공격과 방어의 균형이 개선될 것이고, 경쟁의 핵심은 누가 더 좋은 도구에 접근할 수 있는지가 아니라 누가 더 잘 실행하는지로 옮겨갈 것입니다.

발명이 자동화보다 우선합니다. 그는 "AI가 인간의 일자리를 대체할 것"이라는 서사를 거부하며, 산업혁명 이전에는 노동력의 90%가 농업에 종사했지만 농업 기계화가 대규모 실업을 초래하지 않고 오히려 전혀 새로운 산업을 탄생시켰다고 언급합니다. 그는 AI가 수많은 새로운 직업 범주(1인 제품 스튜디오, 개인 생물학자)를 창출할 것이며, 기업의 규모는 작아지지만 기업의 수는 늘어날 것이라고 예측합니다.

권력의 균형은 안전의 기반입니다. 이것은 이 글 전체에서 가장 핵심적인 논점입니다: 초지능의 안전은 단일 기업이 완벽한 정렬(alignment)을 달성한 후 기술을 독점하는 것이 아니라, 여러 실험실이 동시에 프런티어(frontier) 역량에 도달하여 서로를 견제함으로써 보장됩니다. 그는 직접 말합니다: "초지능이 소수의 개인, 기업, 정부 또는 AI 그 자체에 의해 통제된다면, 자연스럽게 다른 모든 사람에게 불리한 결과를 초래할 것입니다."

세 가지 원칙은 모두 동일한 결론을 향합니다: AI는 집중될수록 위험하고, 분산될수록 안전하다. 메타가 오픈소스를 선택하는 이유는 오픈소스가 본질적으로 분산에 기여하기 때문이다.

감춰진 칼날

선언문에서 가장 날카로운 부분은 온화해 보이는 표현 속에 숨어 있습니다.

"대부분의 다른 실험실들은 기업, 정부 또는 기타 기관을 위한 AI 구축에 집중하고 있습니다. 만약 이러한 실험실들이 업계를 선도한다면, 권력의 균형추는 개인이 아닌 대형 기관 쪽으로 기울 것입니다."

구체적인 이름은 언급되지 않았지만, 그 대상은 분명합니다: OpenAI의 기업 API 전략, Anthropic의 정부 계약, Google의 Gemini 폐쇄적 통제. 저커버그는 이러한 기업들이 입으로는 안전을 말하지만, 실제로는 독점을 만들어가고 있다고 봅니다.

그는 어떤 이들은 증류(distillation)를 유해한 행위로 묘사하려 하지만, "당신이 관찰할 수 있는 모든 것으로부터 배울 수 있다"는 원칙을 보호하는 것이 중요하다고 썼습니다. 이 문장은 OpenAI가 상업 약관에서 자사 모델의 출력물을 경쟁사 모델 훈련에 사용하는 것을 금지하는 관행을 직접적으로 겨냥한 것입니다. 저커버그는 지식 획득을 기본 권리로 정의하고, 증류 차단을 반경쟁적 행위로 규정합니다.

"미국 모델의 출시를 지연시키는 어떤 정책도, 단 한 달만 지연시키더라도 미국의 리더십에 중대한 위험을 초래하고, 동시에 외국 모델이 더 빠르게 앞서 나가도록 만들 수 있습니다." 이 문장의 표적은 미국 내 AI 규제파입니다. 저커버그의 논리는 다음과 같습니다: 중국의 오픈소스 모델은 미국이 스스로를 제한한다고 해서 멈추지 않을 것이며, 스스로 발목을 잡는 것은 오픈소스 트랙을 상대방에게 넘겨주는 것과 같다.

오픈소스의 경계는 어디까지인가

선언문에는 미묘한 변화가 숨어 있습니다.

저커버그는 AI 오픈소스의 가장 열렬한 옹호자였습니다. 하지만 이 글은 단서 조항을 사용합니다: "우리는 초지능의 혜택이 가능한 한 널리 세계와 공유되어야 한다고 믿습니다. 그렇긴 하지만, 초지능은 새로운 안전 문제를 야기할 것입니다. 우리는 이러한 위험을 엄격히 완화하고 어떤 것을 오픈소스로 공개할지에 대해 신중해야 합니다."

TechCrunch는 이를 저커버그가 미래에 가장 강력한 모델을 공개하지 않기 위한 뒷문을 마련해 둔 것이라고 해석합니다. Llama 시리즈는 지금까지 모두 가중치(weight)를 공개했지만, 만약 메타의 모델이 실제로 초지능 수준에 근접한다면, 완전한 오픈소스는 더 이상 기본 옵션이 아닐 수 있습니다.

그가 제시한 대안적 거버넌스 방안은 다음과 같습니다: 메타의 독립 이사회가 모델 출시에 대한 안전 기준을 승인하고, 각 출시가 해당 기준을 충족하는지 검토하는 권한을 갖게 됩니다. 이것은 검증 가능한 제도적 약속이며, 메타가 안전 기준과 검토 기록을 공개적으로 게시한다면 말입니다. 현재로서는 약속만 있을 뿐, 세부 사항은 없습니다.

완전한 프라이버시 모드

이 선언문은 미래의 그림을 묘사합니다: 모든 사람이 자신의 목표, 선호도, 관심사를 이해하는 매우 강력한 개인 AI 에이전트를 갖게 되고, 7x24시간 지속적으로 작동하며 어떤 기기에서든 접근할 수 있습니다. "안경을 포함해서요"라는 표현은 메타의 Ray-Ban 스마트 안경과 Orion AR 헤드셋을 위한 포석입니다.

이에 수반되는 프라이버시 약속은 이 글에서 가장 대담한 단일 기술 선언입니다: 완전한 프라이버시 모드(complete privacy mode)로, 이 모드에서는 메타조차도 사용자의 정보를 보거나 접근을 승인할 수 없으며, WhatsApp의 종단간 암호화와 직접적으로 비교됩니다.

광고로 수익을 내는 회사가 자사조차 사용자 데이터를 볼 수 없는 AI 어시스턴트를 출시하겠다고 약속하는 것은, 만약 실제로 종단간 암호화 아키텍처로 구현된다면 상당히 중요한 기술적, 상업적 결정이 될 것입니다. 하지만 선언문은 어떠한 엔지니어링 세부 사항도 제공하지 않으며, 현재로서는 단지 의향 표명일 뿐입니다.

10억 달러 커뮤니티 펀드와 데이터센터 정치

새롭게 등장한 내용은 커뮤니티 컴팩트(Community Compact)입니다. 메타는 각 데이터센터가 위치한 커뮤니티에 투자하겠다고 약속하며, 여기에는 10억 달러 규모의 "미래는 모든 사람의 것(Future is for Everyone)" 펀드 조성, 무료 기술 교육 제공, 2030년까지 물 긍정(water positive, 소비량보다 회복량이 많은 상태) 달성이 포함됩니다.

그는 루이지애나주 리치랜드 패리시(Richland Parish)의 사례를 언급합니다: 인근 메타 데이터센터가 가져온 세수 증가 덕분에 지역 교사들이 5만 달러의 보너스를 받았습니다. 이 사례는 미국 각지에서 AI 데이터센터의 막대한 물과 전력 소비에 대한 반발 여론에 대응하기 위한 것입니다.