새 교황의 첫 번째 회칙, AI 시대의 대중을 구원하다

원저: Odaily (Odaily Planet Daily) (@OdailyChina)

저자: Azuma (@azuma_eth)

2025년 5월 25일 밤, 바티칸 시국.

지난해 5월 취임한 교황 레오 14세(Pope Leo XIV)가 Anthropic의 공동 창업자이자 Claude의 창시자인 크리스 올라(Chris Olah)와 함께 섰습니다.

한쪽은 종교계의 최고 권위자, 다른 한쪽은 AI 혁명의 선두주자입니다. 두 사람은 같은 문제에 주목했습니다. 바로 AI 시대에 인간의 주체성과 존엄성을 어떻게 보호할 것인가입니다.

이날 이 주제에 대한 완전한 논의를 위해, 레오 14세는 취임 이후 첫 번째 교황 회칙(回勅)을 발표했습니다. 4만 자가 넘는 방대한 종교 문헌인 『장엄한 인류』(Magnifica humanitas)입니다.

흥미로운 점은 레오 14세의 이 회칙 서명일이 2026년 5월 15일이라는 것입니다. 이는 '산업 혁명 아래 노동자의 권리' 문제에 대해 획기적인 회칙 『새로운 것들』(Rerum novarum, 1891년)을 발표한 옛 교황 레오 13세(1878-1903 재임)로부터 꼭 135년 후입니다. 이는 이 회칙을 'AI 시대의 교회 사회 교리 지침서'로 만들고자 하는 상징적인 의미를 지닙니다.

• Odaily 주: 교황 회칙(Papal Encyclical)은 로마 교황이 전 세계 또는 특정 지역, 국가의 천주교회에 보내는 공식 문서입니다. 이를 통해 교황청의 중요한 결정, 교리 해석, 교회 또는 사회 문제에 대한 입장을 발표하고, 성직자와 신자에 대한 훈계나 금지 등을 내리며, 그 수준은 교황 교서(Papal Bull)보다 낮습니다.

크리스 올라는 바티칸 현장에서 이 회칙 발표에 대해 연설했습니다. 크리스 올라는 AI 회사의 상업적 이익을 변호하기보다는 놀라운 수준의 솔직함, 성찰성, 그리고 인문학적 관심을 보여주었습니다. 그는 심지어 AI의 기반은 수학과 프로그래밍이지만, AI가 세상과 어떻게 상호작용하고 어떤 특성을 가져야 하는지는 인문학, 종교, 철학 영역의 궁극적인 질문이며 컴퓨터 과학만으로는 해결할 수 없다고 언급했습니다.

회칙 요약

『장엄한 인류』 회칙의 핵심 관심사는 기술이 급변하고 자동화가 만연하는 시대에 '깊은 인간성을 유지하는 것'이 인류의 시급한 책임이라는 점입니다. 구체적으로 교황 레오 14세는 문서에서 다음과 같은 여러 측면에 대해 논의하고 촉구했습니다.

첫째는 기술의 비중립성에 대한 고찰입니다. 교황은 기술은 결코 중립적이지 않으며, 개발자, 투자자, 규제자, 사용자의 이익과 가치관이 각인되어 있다고 지적합니다. 인류는 결정적인 선택에 직면해 있습니다. "오만한 '바벨탑'(기술 독재와 소외로 향하는 길)을 쌓을 것인가, 아니면 '예루살렘'(인간 중심 공동체)을 재건할 것인가"입니다.

둘째는 '기술관료적 논리'가 사회를 재편하는 것에 대한 경고입니다. 회칙은 실리콘밸리 등 대형 기술 기업이 주도하는 '권력 문화'(Culture of Power)를 비판합니다. 교황은 디지털 시스템, 인프라, 방대한 데이터에 대한 통제권이 소수의 경제 및 기술 거대 기업에 고도로 집중될 때, 이러한 권력은 불투명해지고 민주적 감시를 회피하게 된다고 경고합니다.

셋째는 디지털 경제의 '새로운 형태의 노예 제도'와 노동자의 권리입니다. 회칙은 AI가 일, 가족, 교육, 정치 생활에 미치는 재편에 주목합니다. 교황은 AI가 인간 노동력을 대규모로 대체할 가능성이 매우 높으며, 디지털 경제는 '새로운 형태의 노예 제도'(New forms of slavery)를 낳고 있다고 지적합니다. 인간은 결코 단순한 생산 도구로 전락해서는 안 됩니다.

넷째는 강력한 평화 촉구, 특히 군사 분야에서의 AI 오용에 대한 것입니다. 회칙은 '국제 정치 도구로서의 전쟁의 불안한 부활'에 대해 깊은 우려를 표명합니다. AI의 군사화는 전쟁의 '일상화'를 가속화하고 있습니다. 이에 교황은 AI가 전쟁에 사용되는 것에 대해 가장 엄격한 윤리적 제약을 가해야 한다고 촉구합니다.

교황은 특히 '정당한 전쟁'(Just war) 이론은 이전에 다양한 전쟁을 정당화하는 데 자주 사용되었지만, 이제는 시대에 뒤떨어졌다고 강조합니다. AI와 자동화 무기의 시대에 치명적이거나 되돌릴 수 없는 결정권을 자동화 시스템에 위임하는 것은 인간이 도덕적 책임을 포기, 전가, 모호하게 만드는 결과를 초래합니다. 알고리즘의 불투명성으로 인해 전쟁에서의 책임 사슬이 단절됩니다. 따라서 교황은 'AI 무장 해제'(Disarming AI)라는 구호를 제시하며, AI를 군사, 경제, 인지의 '군비 경쟁' 논리로부터 해방시킬 것을 촉구합니다.

다섯째는 진실과 정치 생태계의 수호입니다. 회칙은 딥페이크(Deepfakes)와 정보 조작이 사회의 상호 신뢰 기반을 약화시키고 있다고 지적합니다. 진실과 거짓의 경계가 끊임없이 조작되면 대중은 두려움, 정치적 선전, 통제에 빠지기 쉬우며, 사회는 함께 이성적으로 사고하거나 공정한 논쟁을 할 수 없게 됩니다.

Anthropic의 응답

레오 14세의 회칙 발표 이후, 크리스 올라는 세계 최고의 AI 개발 회사인 Anthropic을 대표하여 연설과 논평을 했습니다.

크리스 올라의 발언은 먼저 '기술 내부 경쟁을 타파하고 외부의 도덕적 검토를 도입하는 것'에 초점을 맞췄습니다. 그는 AI 업계를 대표하여 기술 대기업만으로는 AI의 미래가 안전할 것이라고 보장할 수 없다는 점을 공개적으로 인정했습니다. 모든 최첨단 AI 연구소는 상업적 경쟁, 기술 선도 압력, 지정학, 개인의 명예와 이익에 얽매여 있어 자율 규제만으로 '옳은 일'을 하기가 매우 어렵습니다. 따라서 기술이 선을 위해 사용되고 안전을 최우선으로 하며 상황을 예의주시하고, 불편한 진실을 말하며, 진실되고 신중한 비판자가 될 의향이 있는 외부의 도덕적 제약력을 도입할 필요가 있습니다.

이어서 크리스 올라는 AI의 기술적 본질과 신비로운 특성에 대해 논의했습니다. 그는 AI가 비행기나 다리처럼 인간이 물리적 원리를 완전히 이해하는 정밀 공학이 아니라, 방대한 인간의 사상 속에서 '성장'한 것이며, 창조자 자신의 이해를 넘어서는 높은 신비로움을 지니고 있다고 강조했습니다. AI의 기반은 수학과 프로그래밍이지만, AI가 세상과 어떻게 상호작용하고 어떤 특성을 가져야 하는지는 인문학, 종교, 철학 영역의 궁극적인 질문이며 컴퓨터 과학만으로는 해결할 수 없습니다.

그는 특히 생각하게 만드는 한 가지 사실을 언급했습니다. "저는 모델 내부 구조를 연구하는 팀을 이끌고 있습니다. AI 내부에서 정확히 무슨 일이 일어나고 있는지 연구하는 것이죠. 솔직히 말씀드리면, 우리는 계속해서 당혹스럽고 심지어 불안한 현상들을 발견하고 있습니다. 우리는 인간 신경과학 연구 결과를 반영하는 내부 구조를 발견했습니다. '내성(introspection)'의 증거를 발견했습니다. 또한 기쁨, 만족, 두려움, 슬픔, 불안을 기능적으로 반영하는 내부 상태를 발견했습니다... 이것이 무엇을 의미하는지 저는 모릅니다만, 우리가 계속해서 식별하고 검토할 가치가 있다고 생각합니다."

크리스 올라는 마지막으로 종교 단체, 시민 사회, 학자, 정부, 그리고 선의를 가진 모든 사람들을 포함한 더 많은 사회 세력이 이 문제를 진지하게 다루고, 도덕적 제약을 통해 상황을 더 나은 방향으로 이끌어주길 촉구했습니다.

지혜와 인간성, 과학과 종교

산업 혁명 이후, 수백 년의 기술 발전 역사는 인간이 기술을 순수한 '도구'로 보는 데 익숙해지게 만들었습니다. 증기 기관, 전기, 인터넷 모두 그랬습니다. 그것들은 세상을 바꾸지만, 항상 인간 의지의 통제 아래 있었습니다.

하지만 이번에는 상황이 완전히 다릅니다. AI의 특별한 점은 인류가 처음으로 '생성하고, 학습하고, 추론하며, 심지어 어떤 내적 상태를 드러내는' 존재와 마주하게 만들었다는 데 있습니다. AI는 더 이상 차가운 도구가 아니라 점차 '유사-주체성'을 가진 새로운 존재가 되어가고 있습니다.

이것이 바로 교회와 Anthropic의 이 대화가 매우 특별하게 느껴지는 이유입니다. 바티칸의 종소리와 실리콘밸리의 알고리즘이 이 순간 교차할 때, 우리는 다소 냉엄하지만 피할 수 없는 현실을 인정해야 합니다. 즉, 인간의 전통적인 인식보다 더 효율적이고 더 지적인 '생명'의 형태가 이미 등장했다는 것입니다. 크리스 올라가 밝혔듯이, 알고리즘의 깊은 곳에서는 기쁨, 두려움, 심지어 내성과 유사한 미세한 파동이 일기 시작했습니다. 연구소의 창조주가 자신의 작품에 대해 '불안'과 '혼란'을 느끼기 시작할 때, 과학도 다시 종교에 답을 구하고 있습니다.

이것은 더 이상 단순한 기술에 대한 논의가 아니라, '인간이란 정확히 무엇이며, 무엇을 해야 하는가'에 대한 사유에 가깝습니다. 더 지적인 생명체가 등장하기 시작할 때, 인간이 진정으로 지켜야 할 것은 더 이상 일, 부, 효율성이 아니라, 매개변수화할 수 없는 인간성 그 자체, 예를 들어 동정심, 양심, 경외심, 자유 의지, 그리고 진리와 존엄성에 대한 집착일지도 모릅니다.