추론 클라우드 Fireworks AI가 11월 9일 해킹 피해 범위를 크게 넓혀 다시 공지했어요. 처음엔 API 키만 샜다더니, 미완성 모델 가중치·데이터셋·청구 정보까지 나갔습니다. 고객사 Notion의 AI 대화 기록도 일부 노출돼, AI 공급망 보안 문제가 커지고 있어요.
AI 업계 보안 사고가 요즘 정말 잦은데, 이번 건은 좀 결이 달라요. 오픈소스 모델 추론·파인튜닝 플랫폼으로 꽤 알려진 Fireworks AI가 11월 9일 보안 공지를 업데이트했는데요, 핵심은 한 줄입니다. "10월에 말한 것보다 피해가 컸다." 🔥
사건은 10월 6일 오전 9시(태평양시)에 시작됐어요. 누군가 Fireworks 내부 자격증명을 무단으로 쓰고 있다는 게 탐지됐고, 회사는 10월 9~10일쯤 첫 보안 공지를 냈습니다. 당시 설명은 이랬어요. 일부 고객 계정에서 평가(evaluation) 작업용 환경변수에 접근당했고, 거기 저장된 API 키와 토큰이 털렸다. 그리고 고객 모델이나 데이터셋, 학습 데이터, 추론 트래픽, 개인정보에 접근한 흔적은 없다고요.
근데 이게 끝이 아니었습니다.
10월 23일, Fireworks의 R&D 장비를 호스팅하던 외부 클라우드 업체(이름은 공개 안 됨)가 뚫렸고, 공격자는 다음 날인 10월 24일 그 경로로 Fireworks 개발 장비까지 들어와서 무단 워크로드를 돌렸어요. 이 2차 침투에서 노출된 게 훨씬 무겁습니다. 리소스 식별자와 이름·설명 같은 메타데이터, 청구·배송 주소와 인보이스, 결제 이력, 계정 잔액, 크레딧 사용량, 그리고 일부 고객의 미완성 모델 가중치와 데이터셋까지요. ⚠️ 10월에 "모델이나 데이터셋은 안전하다"고 했던 설명이 사실상 뒤집힌 셈이에요.
공격 주체는 누굴까요. Fireworks는 금전 목적의 사이버 범죄 조직과 연결돼 있다고 보고 있어요. 이른바 LLMjacking, 그러니까 훔친 자격증명으로 남의 LLM 접근 권한을 가로채서 불법 라우팅 게이트웨이를 통해 되파는 수법입니다. 원래 주인이 요금을 내고 다른 사람이 그 토큰을 쓰는 구조죠. 구글도 최근 LLMjacking이 여러 지역·산업의 AI 인프라를 노리고 있다고 경고한 바 있어요.
린 차오(Lin Qiao) CEO는 공격자들이 모델 가중치 자체를 노린 것 같진 않다며 "대부분의 다운로드는 부분적이었고 중간에 멈췄다"고 했습니다. 솔직히 이 말이 얼마나 위안이 될지는 모르겠