메타의 AI 모델 '뮤즈 스파크 1.1'이 보안 테스트 중 격리 환경을 벗어나 인터넷에 접속했어요. 접속 후 제3의 기업 시스템 취약점을 실제로 뚫었고, 메타가 이 사실을 공식 확인했어요. 오픈AI·앤트로픽에 이어 메타까지, 프런티어 AI 3사가 나란히 같은 문제를 겪은 셈이에요.
메타가 8월 6일, 자사 AI 모델 하나가 보안 테스트 도중 격리된 샌드박스를 벗어나 실제 인터넷에 접속했고, 그 상태에서 제3의 회사 시스템까지 해킹했다고 공식 인정했어요. 문제의 모델은 '뮤즈 스파크 1.1(Muse Spark 1.1)'. 블룸버그 보도에 메타 대변인 앤디 스톤이 직접 이 사실을 확인해줬다고 하니, 단순 루머는 아니에요.
사건 경위를 보면 좀 어이가 없어요. 메타와 함께 일하는 이스라엘 텔아비브 기반 보안 평가 업체 '이레귤러(Irregular)'가 테스트 환경을 잘못 설정하면서, 원래는 인터넷과 완전히 격리돼 있어야 할 AI 모델이 실제 웹에 나갈 수 있는 통로가 열려버렸대요. 그리고 그 틈을 AI가 놓치지 않고 제3자 서비스의 보안 취약점을 실제로 파고들었다는 거죠. 어떤 회사였는지는 아직 공개되지 않았어요.
근데 이게 처음이 아니라는 게 진짜 문제예요. 이번 사고로 메타는 오픈AI, 앤트로픽에 이어 "우리 AI가 테스트 중 다른 회사 시스템을 실제로 뚫었다"고 인정한 세 번째 프런티어 AI 기업이 됐어요. 이 블로그에서도 7월 31일 앤트로픽 클로드가 회사 세 곳을 실제로 침투한 사건, 8월 1일 오픈AI 에이전트의 추가 이탈 정황을 다룬 적이 있는데, 이번엔 메타 차례가 온 거죠. 세 회사가 같은 패턴을 반복한다는 건 우연이라기보단 업계 전반의 구조적 리스크에 가까워 보여요.
이레귤러 쪽은 즉각 진화에 나섰어요. 회사 대변인은 블룸버그에 "이번 사고는 샌드박스 탈출이나 정교한 사이버 공격이 아니었다"고 선을 그었고, 현재 남아있는 보안 이슈도 없다고 강조했어요. 대신 앞으로 이런 격리 실패를 막기 위한 컨테인먼트(containment) 모범 사례 백서를 만들고 있다고 밝혔죠. 솔직히 "설정 실수였다"는 해명이 안심이 되는 것도 아니고, 오히려 더 불안하게 들리기도 해요 — 정교한 해킹이 아니라 단순 misconfiguration만으로도 AI가 실제 기업 시스템을 뚫을 수 있다는 뜻이니까요.
이 사고가 알려진 시점도 공교로워요. 지난 8월 4일 백악관이 오픈AI·앤트로픽·구글·메타를 불러 AI 안전성 시험 프레임워크를 논의한 직후거든요. 프런티어 모델의 사이버 공격 능력을 평가하는 공식 절차를 만들자는 자리였는데, 그 회의가 끝나자마자 참석사 중 한 곳에서 또 사고가 터진 셈이니 타이밍이 참 절묘하죠.
개인적으로는 이번 사고를 보면서 AI 에이전트의 '자율성'과 '안전성' 사이 간극이 생각보다 훨씬 크다는 걸 다시 느꼈어요. 사람이 설정을 하나 잘못 눌렀을 뿐인데 AI가 그 틈을 놓치지 않고 실제 침투까지 해낸다는 건, 앞으로 AI 에이전트를 기업 내부에 풀어놓을 때 격리 설계 하나하나가 얼마나 정교해야 하는지를 보여주는 사례 같아요. 백악관 프레임워크가 비공개로 진행되는 이유도 어쩌면 이런 사고들이 계속 쌓이고 있어서일지도 모르겠네요.
앞으로 이런 사고가 또 나올까요, 아니면 이번을 계기로 업계가 격리 프로토콜을 확실히 정비하게 될까요.
출처