미국 정부가 6월 12일 오후 5시 21분, Anthropic에 수출통제 명령을 발동해 Fable 5와 Mythos 5를 전 세계 서비스 중단시켰어요. 문제가 된 취약점은 "코드베이스를 읽고 결함을 수정하라는 요청"으로 모델을 우회하는 좁고 비보편적인 방식이에요. 상용 AI 모델을 연방정부가 강제로 내린 건 이번이 사상 최초로, AI 거버넌스의 새 국면이 열렸어요.
Fable 5가 출시된 건 불과 나흘 전 얘기예요. 🚀 Anthropic이 야심차게 공개한 가장 강력한 공개 모델, 그것도 Pro·Max 구독자들에게 무료로 풀었던 그 모델이 6월 12일 오후 5시 21분(미 동부 시간)에 연방정부 명령 한 통으로 전 세계 서비스에서 내려갔어요.
미 행정부는 수출통제 권한을 발동해 Anthropic에 Fable 5와 Mythos 5 두 모델의 접근을 즉각 차단하라고 지시했어요. 근거는 모델 세이프가드를 우회할 수 있는 방법이 발견됐다는 것인데, 구체적으로는 어떤 회사가 특정 코드베이스를 읽고 결함을 수정하라고 Mythos에 요청하는 방식으로 jailbreak를 시연했다는 거예요. 행정부 관계자는 Axios를 통해 국가 안보 위험을 우려해 행동에 나섰다고 밝혔고요.
솔직히 이건 좀 충격적인 수준이에요. Anthropic이 직접 표현했듯, 이 취약점은 "좁고 비보편적"이에요. 다른 공개 AI 시스템에서도 비슷한 방법으로 우회가 가능하고, 수억 명에게 배포된 상용 모델을 이 이유로 즉각 내려야 하는지는 충분히 논쟁의 여지가 있어요. 사실 정부 명령에서 요구한 건 외국인에 대한 접근 차단이었는데, Anthropic은 이를 완벽히 이행하기 위해 전체 사용자 접근을 아예 막아버린 거예요.
Anthropic은 명령에 따랐지만 강하게 반발했어요. 회사 측은 공식 성명에서 "이 조치는 공정하고 구조화된 투명한 정부 검토 원칙을 준수하지 않는다"고 밝혔어요. "좁은 잠재적 jailbreak 발견이 수억 명에게 배포된 상용 모델을 리콜할 이유가 되어야 한다는 데 동의하지 않는다"는 입장도 분명히 했고요.
이번 사태는 Trump 행정부와 Anthropic 사이에 올해 내내 쌓여온 긴장관계의 연장선이에요. 지난달 국방부가 Anthropic을 공급망 위험으로 지정하고 Claude를 군 시스템에서 교체 추진하는 사건이 있었는데, 이번엔 직접 모델을 강제 오프라인으로 만든 거죠. AI 안전을 가장 강하게 외쳤던 회사가 정작 그 '안전' 명목으로 규제 칼날을 먼저 맞는 역설이 현실이 됐어요 👀.
근데 이게 단순히 Anthropic만의 문제로 끝나지 않을 것 같아요. 연방정부가 수출통제 명분으로 상용 AI 모델을 내릴 수 있다는 선례가 만들어졌으니까요. 앞으로 GPT-5.5든 Gemini든 어떤 모델이든 비슷한 이유가 붙으면 같은 일이 벌어질 수 있어요. OpenAI IPO가 9월로 잡혀 있는 시점에, AI 업계 전체가 이번 결말을 예의주시하고 있어요.
출처