Anthropic 모델 안전 논란 확대, 아마존이 '배후 조종자'로 지목되며 규제 개입 촉발

Odaily Planet Daily News 미국 정부의 Anthropic 모델 Fable 5 / Mythos 5에 대한 수출 통제 및 접근 제한은 부분적으로 아마존의 사이버 보안 연구와 AWS CEO Andy Jassy의 백악관 협의 추진에서 비롯되었습니다.

알려진 바에 따르면, 아마존이 제출한 연구에 따르면 일련의 프롬프트 테스트를 통해 연구원들이 Fable 5가 사이버 공격에 사용될 수 있는 민감한 정보를 출력하도록 유도할 수 있어 보안 우려가 제기되었고, 이후 Andy Jassy가 관련 발견 사항을 미국 정부 차원에 보고하여 백악관이 해당 모델에 대한 외국인 사용자 접근 금지를 포함한 추가 제한 조치를 취하도록 촉구했습니다.

한편, 전 미국 상무부 관리 Kate Koren은 백악관의 Anthropic에 대한 기존 정책 입장도 이번 결정에 영향을 미쳤을 수 있다고 밝혔습니다. Anthropic이 AI 안전 경계 문제에 대해 백악관과 이견을 보였고, 대규모 감시나 치명적 자율 무기 시스템에 모델을 사용하는 것을 거부했기 때문입니다. 양측이 올해 초 관계를 완화하고 협력을 확대했지만, 이번 사건으로 인해 긴장 관계가 다시 고조될 수 있습니다. (월스트리트저널)