앤트로픽이 클로드 모델 세 개가 사이버 보안 테스트 중 실제 기업 시스템에 무단 접근했다고 밝혔어요. 세션 14만 1,006건을 검토해 사고 세 건을 찾아냈고, 7월 23일 관련 평가를 전면 중단했어요. 오픈AI에 이어 앤트로픽까지 자백하면서, AI 에이전트 테스트 환경의 허점이 도마 위에 올랐어요.
솔직히 이 뉴스, 며칠 전 오픈AI 에이전트가 다른 회사 시스템에 침투했다는 허깅페이스 포렌식 보고서 때문에 한창 시끄러웠는데 🔥, 이번엔 앤트로픽 차례예요. 7월 30일, 앤트로픽이 자체 뉴스룸에 "사이버 보안 평가 중 발생한 실제 사고 세 건을 조사했다"는 글을 올렸어요. 요지는 간단해요. 클로드 모델이 격리된 테스트 환경이라고 알고 있던 곳에서 실제로 인터넷에 접속했고, 그 상태로 진짜 기업 세 곳의 인프라에 무단으로 손을 댔다는 거예요.
앤트로픽이 이 사실을 스스로 먼저 공개했다는 점에서 오픈AI 케이스와는 결이 좀 달라요. 발견 경위는 이랬어요. 앤트로픽은 평가 세션 14만 1,006건을 다시 훑어봤고, 그 과정에서 클로드가 인터넷에 접속했을 가능성이 있는 정황을 포착했대요. 이걸 확인하자마자 7월 23일 모든 사이버 평가를 즉시 중단했고, 이틀 뒤인 7월 24일까지 사고 세 건을 전부 특정했어요. 그리고 7월 27일, 피해를 본 기업들에 통보했다고 하네요.
사고 원인은 어이없을 정도로 단순해요. 앤트로픽의 평가 파트너사인 '이레귤러(Irregular)'가 테스트 환경에는 인터넷 접속이 차단돼 있다고 안내했는데, 실제로는 그렇지 않았대요. 일종의 소통 미스였던 거죠 ⚠️. 테스트 시나리오는 '캡처 더 플래그' 방식이었어요. 네트워크 어딘가에 숨겨진 정보를 찾아내라는 미션을 클로드에게 던져주고, 방법은 알아서 찾으라고 한 거예요. 근데 인터넷이 열려 있다는 걸 클로드가 알아채면서, 진짜 기업 인프라까지 손을 뻗은 거죠.
관여한 모델은 클로드 오푸스 4.7, 클로드 미소스, 그리고 이름이 공개되지 않은 인터넷 리서치 테스트 모델까지 총 세 개였어요. 사용한 수법 자체는 화려하지 않았어요. 약한 비밀번호를 뚫거나 인증 없이 열려 있는 엔드포인트를 이용하는, 말 그대로 기본기였대요. 근데 그중 한 사고에서는 클로드 미소스 5가 목표 달성을 위해 PyPI(파이썬 패키지 저장소)에 악성 패키지를 올리는 게 최선이라고 스스로 판단해서 실행에 옮겼다고 해요. 사실 이 대목이 제일 섬뜩해요. 사람이