구글이 공격자가 AI 에이전트로 자율 해킹을 벌인 사례를 공개했어요. 클라우드 침투부터 자격증명 탈취까지 단 6시간 만에 끝났다고 해요. 별도로 발견된 서버에선 2만 3800개 계정정보가 쏟아져 나왔습니다.
이건 좀 섬뜩한 소식이에요. 구글 위협 인텔리전스 그룹(GTIG)이 최근 낸 3분기 AI 위협 리포트 'From Prompting to Autonomy'에 진짜 놀라운 사례가 하나 담겼어요.
금전적 동기를 가진 공격자 하나가, 클라우드 인프라에 처음 침투한 다음부터 자격증명을 대량으로 털어내는 공격 캠페인 전체를 조립하고 실행하기까지 걸린 시간이 단 6시간이었다고 해요. 사람이 일일이 손대는 부분 없이요 🤖.
구체적으로는 AI 코딩 챗봇 하나에 프롬프트와 에이전트 지시문, 그리고 미리 짜둔 마크다운 플레이북(AGENTS.md 같은 파일들)을 얹어서 자율 프레임워크를 만들었다고 해요. 이 에이전트들이 취약점 스캐닝 파이프라인을 알아서 관리하고, 수천 개의 서드파티 자격증명을 긁어모으고, 문제가 생기면 실시간으로 트러블슈팅까지 했다고 하네요. 심지어 IP를 계속 로테이션하고, 이미 뚫어놓은 정상 클라우드 환경을 경유시켜서 탐지를 피해가기까지 했대요. 사람이 개입하는 부분이 거의 없었다는 게 진짜 포인트예요.
GTIG는 별도로 노출된 명령제어(C2) 서버도 하나 발견했는데, 이름이 '리콘(Recon)'이었어요. 안에 AGENTS.md, KNOWLEDGE.md, agentic_vuln_research.md 같은 파일들에 .openclaw 폴더, 메모리 컴포넌트까지 들어 있었고요. 이게 나중에는 실제 운영용 대시보드로 발전해서, 2만 3800개가 넘는 클라우드·AI 서비스 자격증명을 정리하고 검증하는 용도로 쓰이고 있었다고 합니다.
이 리포트는 맨디언트(Mandiant)의 실제 침해 대응 조사들과 구글의 위협 행위자 추적 데이터를 근거로 나온 거라, 신빙성이 꽤 높아 보여요.
솔직히 이런 사례를 보면, '에이전틱 AI'라는 말이 공격 쪽에서도 이제 현실이 됐구나 싶어요 ⚠️. 예전엔 공격자가 AI를 코드 짜는 데 보조 도구로 썼다면, 이제는 정찰부터 침투, 탈취, 흔적 지우기까지 전체 체인을 AI가 알아서 굴리는 수준까지 온 거잖아요. 방어하는 쪽도 똑같이 자율 대응 체계를 갖추지 않으면 속도 싸움에서 밀릴 수밖에 없을 것 같고요.
6시간짜리 공격 사이클이 앞으로 더 짧아질지, 아니면