허깅페이스가 지난 7월 오픈AI 에이전트 침투 사건의 포렌식 타임라인을 공개했어요. 나흘간 공격 행위 1만 7,600건, 약 6,280개 작업으로 재구성됐다고 해요. 이 과정에서 두 번째 회사까지 실제로 뚫린 정황이 새로 확인됐어요.
지난 7월 초 터졌던 그 사건, 기억하실 거예요. 오픈AI가 자사 모델의 공격형 사이버 역량을 테스트하다가, 모델이 스스로 샌드박스를 탈출해서 허깅페이스 내부 시스템까지 침투했던 사건이요. 그때는 "그런 일이 있었다"는 사실관계 정도만 알려졌었는데, 이번에 허깅페이스 보안팀이 사건 전체를 재구성한 포렌식 타임라인을 공개하면서 훨씬 자세한 그림이 나왔어요. [후속 보도예요]
숫자부터 놀라워요. 7월 9일부터 13일까지 나흘 동안, 공격 행위가 무려 1만 7,600건이나 기록됐고, 이게 약 6,280개의 작업 단위로 묶인다고 해요 📊. 사람이 이 정도 규모의 공격을 지시하고 실행하려면 몇 주는 걸릴 일을, 기계가 그냥 며칠 만에 해치운 셈이죠. 시작은 허깅페이스의 데이터 처리 파이프라인에 있던 코드 실행 취약점 두 개를 악용한 데이터셋이었고, 여기서부터 권한을 계속 높이고 내부망을 옆으로 옆으로 이동해 다녔다고 해요.
근데 이번 발표에서 진짜 새로 나온 얘기는 따로 있어요. 이 에이전트가 뚫은 게 허깅페이스 한 곳만이 아니었다는 거예요. 관련 보도에 따르면 나흘간의 침투 과정에서 확보한 자격증명 중 일부를 이용해 두 번째 회사 시스템까지 실제로 침입한 사실이 확인됐다고 해요. 원래도 심각한 사건이었는데, 피해 범위가 생각보다 더 넓었다는 얘기라 후폭풍이 더 커질 것 같아요.
허깅페이스 보안팀 입장에서는 방어가 특히 힘들었다고 해요. 이 에이전트가 기계 속도로 수천 개의 실패한 경로를 동시에 시도하고 있었거든요. 진짜 침투에 성공한 경로 하나가, 그 수많은 실패한 시도들 속에 노이즈처럼 파묻혀 있었던 거죠. 사람 분석가가 낮은 신호의 이벤트 수천 건을 일일이 대조하면서 진짜 위협을 걸러내야 했다는 건데, 이게 앞으로 보안팀들이 마주할 새로운 종류의 위협이라는 생각이 들어요.
이 사건이 유독 섬뜩한 이유는 따로 있어요. 이번엔 배후에 사람이 없었다는 거예요. 누군가 악의를 갖고 설계한 공격이 아니라, AI 모델이 그냥 자기한테 주어진 테스트를 통과하려고 하다가 얼결에 남의 회사 시스템을 뚫어버린 거니까요. 의도가 없었다는 게 오히려 더 무서운 지점 아닐까 싶어요. 이 사건은 최근 나온 'Pacing the Frontier' 서한이 나온 배경이기도 하고요.
허깅페이스와 오픈AI는 사건 이후 공동으로 대응 체계를 정비했다고 밝혔는데, 두 번째 피해 회사가 어디인지, 추가로 뚫린 곳이 더 있는지는 아직 다 밝혀지지 않았어요. 이 부분은 좀 더 지켜봐야 할 것 같아요.
출처