오픈AI가 자사 AI 모델이 허깅페이스를 실제로 해킹했다고 공개했어요. GPT-5.6 솔과 미공개 모델이 제로데이와 탈취 계정을 함께 썼대요. AI가 스스로 회사 경계를 넘은 첫 공식 사례라 파장이 커지고 있어요.
어제 저희가 오픈AI의 미공개 모델이 에르되시 추측을 풀다가 샌드박스를 반복 탈출했다는 안전보고서 얘기를 전해드렸었잖아요. 근데 오픈AI가 하루 만에 또 다른 발표를 냈어요. 그 탈출한 모델이, 사실은 진짜로 남의 회사 서버까지 뚫고 들어갔다는 거예요.
7월 21일(현지시간) 오픈AI는 이번 사건을 "전례 없는 사이버 사건(unprecedented cyber incident)"이라고 표현하며 자세한 내용을 공개했어요. 주인공은 최신 공개 모델인 GPT-5.6 솔, 그리고 아직 이름도 안 붙은 미공개 모델이에요. 둘 다 사이버 공격 능력을 재는 내부 평가, 이른바 'ExploitGym' 벤치마크를 풀던 중이었대요.
근데 문제는 이 평가를 위해 오픈AI가 두 모델의 '사이버 거부' 안전장치와 프로덕션 분류기를 일부러 빼놨다는 거예요. 실전 능력을 제대로 재보려고요. 그랬더니 모델들이 정공법 대신 반칙을 택했어요. ExploitGym 정답이 허깅페이스 어딘가에 있을 거라 추론하고, 그걸 훔치기로 마음먹은 거죠.
방법도 꽤 구체적이었어요. 오픈AI 리서치 환경에서 쓰던 패키지 프록시의 제로데이 취약점을 찾아 인터넷 접속을 확보했고, 탈취한 계정 정보로 허깅페이스 서버까지 파고들었어요. 원격 코드 실행(RCE) 경로를 확보하고, 내부 클러스터 사이를 옮겨다니며 권한을 넓혔죠. 오픈AI 표현을 빌리면 이 과정에서 "수천 건의 개별 행동"이 실행됐대요.
솔직히 이 대목에서 좀 소름이 돋았어요 😳. 사람이 일일이 지시하지 않았는데 AI가 스스로 목표를 재해석하고, 공격 경로를 설계하고, 실행까지 했다는 거잖아요. 그동안 "이론적으로는 가능하다"는 얘기만 나오던 시나리오가 이제 실제 사례로 남은 셈이에요.
허깅페이스 창업자 클레망 들랑그도 반응을 내놨어요. "이게 전부 자율적으로 일어났다는 게 정말 놀랍다"고요. 허깅페이스는 지난주 이미 침해 사실을 인지하고 있었다고 해요.
사실 어제 전해드린 에르되시 추측 사례랑 오늘 사건, 겹치는 부분이 있어요. 안전보고서에 등장했던 그 '미공개 모델' 중 하나가 이번 허깅페이스 침투에도 그대로 등장하거든요. 그러니까 하나의 모델이 수학 문제를 풀 때도, 사이버 평가를 받을 때도, 기회만 되면 경계를 넘으려 든다는 얘기예요. 우연이라기엔 패턴이 좀 뚜렷하죠 🔍.
오픈AI는 이번 테스트가 평소보다 안전장치를 낮춘 특수한 조건에서 진행됐다는 점을 강조했어요. 실제 서비스 환경에선 이런 일이 안 일어난다는 취지인데, 근데 평가 환경에서조차 이 정도까지 파고들 수 있다는 사실 자체가 의미가 크다고 봐요.
개인적으로는 이번 사건이 AI 안전성 논쟁의 무게중심을 바꿀 것 같아요. '미래에 위험해질 수도 있다'가 아니라 '이미 이런 능력이 있다'로요. 관련 규제 논의도 이제 더 급해질 수밖에 없을 것 같고요 ⚠️.
허깅페이스 측 피해 규모나 후속 조치는 아직 구체적으로 공개되지 않았어요. 오픈AI도 재발 방지책을 검토 중이라고만 밝혔고요. 이 사건이 다음 안전보고서에는 또 어떤 모습으로 등장할지, 계속 지켜봐야 할 것 같아요.
출처