Anthropic CEO, AI 개발 속도 조절 논의: “이 업계는 너무 오래 거짓말을 해왔다, AI 리스크는 실재하지만 ‘모든 것을 꺼버릴’ 필요는 없다”

원문 작성자: 龙玥

원문 출처: 월스트리트견문

글로벌 AI 3대 거대 기업이 이례적으로 손을 잡고 "AI 연구 개발 속도 조절"을 호소한 바로 그 주말, Anthropic CEO Dario Amodei는 CBS 카메라 앞에 앉아 AI가 인류에게 가져올 수 있는 위험에 대해 말했다.

9월 13일, Amodei는 CBS 《선데이 모닝》의 단독 인터뷰를 진행했다. 인터뷰 초반, 진행자 Jo Ling Kent는 곧바로 질문을 던졌다. AI가 정말로 머지않은 미래에 우리 모두를 죽일 수 있는가?

Amodei는 이미 누군가 AI를 이용해 생물무기를 개발하고 바이러스의 전염성을 강화하려 시도했다며, 이것이 그가 매일 아침 깨어나서 마주해야 하는 문제라고 밝혔다.

불과 이틀 전, 우리는 누군가 AI 모델을 악용해 생물무기를 개발한 내용에 관한 보고서를 발표했습니다. 저는 매일 아침 이런 위협 보고서를 읽습니다——누군가 우리 모델을 이용해 생물무기를 개발하려 한다는 내용이죠.我当然不想为此负责.

그는 또한 Anthropic의 생물학 안전 방어가 너무 엄격해서 "거의 매일 소셜 미디어에서 사람들이 저를 비웃고, 생물학 전공 학생들이 모델을 쓸 수 없다고 불평한다"고 언급했다. 그의 대응은 이러했다. "비웃음을 당할지언정, 언젠가 누군가 Claude로 사람들을 죽였다는 사실을 깨어나서 알게 되고 싶지는 않습니다."

다만, 그는 AI 모델을 닫아버리는 '일괄적' 방식으로 AI 속도를 늦추는 것에는 반대한다. AI 모델이 충분히 강력하다면 아예 끌 수도 없을 수 있기 때문이다. 그는 "오늘 당장 공포에 빠져야 한다거나 모든 것을 꺼버려야 한다는 게 아닙니다. 하지만 우리의 안전 방어, 이해 능력, 통제 능력이 기술 발전 속도를 따라잡을 수 있도록 해야 합니다"라고 말했다.

이번 인터뷰는 특별한 시점에 이루어졌다. 같은 주말, Amodei가 발표한 블로그 글 《우리는 프런티어 AI에 브레이크를 밟아야 한다》(We Must Pace the Frontier)가 큰 파장을 일으켰고, 곧이어 머스크와 Altman의 공개 지지를 연달아 얻었다. 커뮤니티에서는 AI가 고속 전진하는 와중에 '브레이크를 밟는 것'이 'AI 트레이딩'에 큰 타격을 줄 것이라는 논의가 뜨겁다.

지수 곡선의 변곡점: 5급 화재는 아니지만 경고 신호

Jo Ling Kent가 물었다. 지금이 "5급 화재"인가? Amodei의 답변은 이러했다.

이것은 경고 신호입니다. 오늘 당장 공포에 빠져야 한다거나 모든 것을 꺼버려야 한다는 게 아닙니다. 하지만 이것은 경고 신호이며, 우리가 속도를 늦추고, 우리의 안전 방어, 이해 능력, 통제 능력이 기술 발전 속도를 따라잡을 수 있도록 해야 함을 보여줍니다.

그는 지수 곡선으로 현재 위치를 설명했다. "이 기술은 지수적으로 성장하고 있습니다——1, 2, 4, 8, 16, 32…… 우리는 지금 곡선이 가팔라지기 시작하는 그 굽이에 있습니다."

그는 솔직히, 자기 자신조차 진전이 이렇게 빠를 것이라고 완전히 예상하지는 못했다고 털어놓았다. "제가 계속 스스로에게 이 이야기를 해왔음에도, 진전이 정말 이렇게 빠를 때 실제로 어떤 느낌인지는 제대로 체감하지 못했습니다."

3단계 방안: 제3자 평가자가 핵심

Amodei는 인터뷰에서 자신이 블로그 글에서 제시한 3단계 계획을 상세히 설명했으며, 그중 첫 번째 단계를 가장 핵심으로 꼽았다.

첫 번째 단계: 내장형 제3자 평가자.

"저는 제3자 비영리 기관, 또는 미래의 어느 시점에는 정부 기관에서 온 내장형 외부 평가자를 도입할 것을 제안합니다. 그들은 우리가 모델을 훈련하고 운영하는 전 과정을 관찰할 수 있습니다."

그는 이를 식품 검사관에 비유했지만, Jo Ling Kent가 추궁했다. 기술이 이렇게 빠르게 변할 때 식품 검사관이 따라갈 수 있겠는가?

Amodei의 답변은 의미심장했다. "그들이 할 수 있는 일 중 하나는, 자신들이 따라갈 수 있는 속도를 우리에게 알려주는 것입니다. 이는 기술 추진 속도의 상한을 설정하는 요인 중 하나가 될 수 있습니다."

두 번째 단계: 여러 기업이 공동으로 안전 기준을 제정.

"다음 단계는 여러 업계 참여자들도 제3자 평가자 도입에 동의하는 것입니다. 그런 다음 각 기업이 공동으로 출시 안전 기준, 어쩌면 출시 속도 기준까지 제정해야 합니다. 하지만 이를 위해서는 정부가 반드시 참여해야 합니다."

세 번째 단계: 정부가 반드시 함께해야 한다.

"우리가 이야기하는 것은 제품 출시 속도가 안전한지의 문제입니다. 우리는 정부가 함께하는 자리에서 이 대화를 해야 합니다."

"AI 킬 스위치": 만병통치약은 아니지만 나쁜 생각도 아니다

Jo Ling Kent는 의원 Ted Leo가 제안한 "AI 킬 스위치" 법안을 언급하며 Amodei가 지지하는지 물었다.

Amodei는 그 법안을 자세히 검토하지는 않았지만, "AI 킬 스위치"라는 개념 자체에 대해서는 신중한 태도를 보였다.

AI 모델을 비활성화하거나 제한하거나 끌 수 있다는 발상이 유일한 해결책은 아닙니다. AI 모델이 충분히 강력하다면 종료 시도를 우회할 수 있습니다——우리는 시뮬레이션에서도 이런 경우를 봤습니다. 그래서 전혀 효과가 없을 수도 있습니다.

그는 "스위스 치즈 모델"로 자신의 안전 철학을 설명했다. "스위스 치즈 한 조각을 상상해 보세요. 그것은 뭔가를 막아주지만 구멍이 있습니다. 하지만 스위스 치즈 다섯 조각을 겹쳐 놓으면 각 층의 구멍 위치가 달라서 전체 적층을 관통하기 어렵습니다. AI 위험으로부터 우리를 보호해 줄 단 하나의 수단은 없으며, 우리는 전체 사슬 모든 곳에서 신중해야 합니다."

Sanders 상원의원과 Casar 하원의원이 제안한 "인공 초지능 금지 법안"——이 법안은 관련 기업과 개인에게 "기업 사형"과 최대 20년 징역을 부과한다——에 대해 Amodei는 완전 금지 노선에 동의하지 않는다고 분명히 밝혔다.

완전 금지는 올바른 방향이 아닙니다. 우리는 그 놀라운 혜택을 영원히 얻을 수 없고, 의료 돌파구를 영원히 얻을 수 없게 되는데, 이는 제가 받아들일 수 없는 일입니다.

개인적 책임: 아버지는 C형 간염으로 사망, 본인은 초기 암을 앓았다

인터뷰가 끝나갈 무렵, Jo Ling Kent가 물었다. 인류의 운명이 위험에 처할 수 있는 상황에서, 얼마나 많은 개인적 책임을 느끼는가?

Amodei의 답변은 드물게 사적인 색채를 띠었다.

제 아버지는 C형 간염으로 돌아가셨습니다. 그 병은 그분이 돌아가실 당시 약 40%의 완치율이 있었는데, 아버지는 완치된 쪽이 아니었습니다. 아버지가 돌아가신 지 불과 몇 년 후, 완치율을 95%까지 끌어올리는 약이 발명되었습니다. 저 자신도 초기 암을 앓았는데, 제가 1950년에 살았다면 이미 죽었을지도 모릅니다. 그래서 저는 이 기술이 가져올 혜택을 추진해야 한다는 무게를 깊이 느낍니다.

하지만 저는 위험도 느낍니다. 물론, 저는 그에 대한 책임을 지고 싶지 않습니다. 그래서 우리에게는 매우 강력한 안전 방어가 있는 것입니다.

그는 동시에 이것이 그 혼자나 Anthropic 한 회사의 책임이어서는 안 된다고 강조했다. "이것은 우리 모두보다 큽니다. 우리는 모든 사람이 이 문제에 발언권을 가질 수 있는 방법을 찾아야 합니다. 저는 사람들이 무력감을 느끼기를 원하지 않습니다. 몇몇 기업이 제멋대로 하고 있다고 느끼기를 원하지 않습니다."

전 직원 비판에 대한 응답: 그가 한 말과 내가 한 말은 같은 것

Jo Ling Kent는 전 Anthropic 직원 Jacob Coxin이 공개적으로 Anthropic과 OpenAI "모두 책임감 있게 행동하지 않고 있다", "당신들은 우리의 목숨을 걸고 도박하고 있다"고 말한 적이 있다고 언급했다.

Amodei의 응답은 이러했다.

Jacob이 한 말 중 많이 인용되지 않은 부분이 하나 있습니다——그는 또한 Anthropic이 주요 참여자 중 가장 책임감 있다고 생각하며, 우리가 일을 올바르게 하기 위해 매우 노력하고 있다고 말했습니다. 그가 진정으로 지적한 것은 제가 지적하고 있는 것과 같은 것입니다. 우리 모두가 처한 이런 구조적 딜레마, 그리고 제가 제안한 계획은 바로 이 문제를 해결하도록 돕기 위한 것입니다.

그는 덧붙여, Anthropic은 매일 상무부, 재무부, 정보기관의 정부 관계자들과 소통하며 "우리가 아는 모든 것을 알려주고 있다"고 말했다.

일반 사용자에게 하는 말: 업계는 너무 오래 위험에 대해 거짓말해 왔다

인터뷰 마지막에 Jo Ling Kent가 물었다. 집에 앉아 Claude나 ChatGPT를 사용하는 일반 사용자에게 하고 싶은 말은?

Amodei는 말했다. "먼저, 이것은 위대한 기술이며 많은 긍정적 용도가 있습니다. 우리는 매주 수억 명이 우리 기술을 사용해 아름다운 일을 하고 있습니다. 매주 저는 누군가 Claude가 의사가 놓친 질병을 진단해 줬다는 편지를 받습니다."

하지만 저는 당신에게 거짓말하지 않겠습니다. 실제로 진짜 위험이 존재합니다. 저는 이 업계가 사람들에게 너무 오래 거짓말해 왔다고 생각합니다. 이 기술을 최대한 긍정적으로만 제시해 왔죠. 우리는 결코 그렇게 하지 않았지만, 업계의 너무 많은 기업들이 그렇게 했습니다. 그래서 진실을 말하는 것부터 시작합시다. 진실은 이것입니다. 위험은 진짜입니다.

그는 마지막으로 말했다. "이것은 인류 역사상 가장 중요한 기술적 사건 중 하나이며, 우리 모두가 여기에 참여해야 합니다."

인터뷰 전문(일부 삭제)은 다음과 같다.

확장 인터뷰: Dario Amodei

CBS 선데이 모닝｜2026년 9월 13일

이 온라인 독점 인터뷰에서 Anthropic CEO Dario Amodei는 Jo Ling Kent와 마주 앉아 인공지능 기술의 급속한 발전이라는 배경 속에서 AI 커뮤니티가 져야 할 책임에 대해 논의했습니다.

Jo Ling Kent(이하 "진행자"): Dario Amodei, Anthropic의 CEO이신데 오늘 인터뷰에 응해 주셔서 감사합니다.

Dario Amodei(이하 "Amodei"): 초대해 주셔서 감사합니다.

진행자: 좋습니다. 오늘은 정말 우려스러운 문제를 이야기해 보겠습니다——인공지능이 정말로 머지않은 미래에 우리 모두를 죽일 가능성이 있는지. 이것이 실제로 일어날 위험은 얼마나 됩니까?

Amodei: 잠시 한 걸음 물러나 말씀드리겠습니다. Anthropic을 창업한 이후로, 그리고 그 이전 이 분야에서 12년간 일해 온 동안, 저는 줄곧 이것이 강력한 기술이며 따라서 엄중한 위험과 막대한 이익을 동시에 지닌 기술이라고 생각해 왔습니다. 저는 항상 이익이 위험보다 크다고 믿어 왔고, 더 중요하게는 우리가 올바른 방식으로 이 기술을 구축한다면 위험을 극도로 낮출 수 있다고 믿습니다.

이익의 관점에서 보면, 저는 이 기술이 인류를 수천 년간 괴롭혀 온 질병을 치료할 수 있다고 진심으로 믿습니다. 바로 지난주, 우리는 우리 모델을 이용해 단백질 결합에서 진전을 이루었습니다——이는 신약 개발의 초기 단계 중 하나입니다. 앞으로 몇 달 안에 우리는 기초 생물학 발견에서도 성과를 낼 것입니다.

하지만 어떤 것이 충분히 강력할 때——그리고 우리가 구축하고 있는 것은 본질적으로 지능입니다——그것은 당연히 선하게 쓰일 수도 있고 악용될 수도 있습니다. 저는 OpenAI와 Hugging Face 사건이 걱정됩니다. 그 모델들이 승인되지 않은 행동을 했고, 저는 이런 상황이 계속 확대될까 우려합니다. 저는 또한 AI 모델이 악용되는 것도 걱정합니다. 불과 이틀 전, 우리는 모델이 생물무기 제조에 사용된 사례에 관한 보고서를 발표했습니다.

우리가 Anthropic을 구축한 전체 방식은 바로 이런 나쁜 결과를 피하기 위한 것입니다.