xAI의 코딩 도구 그록 빌드가 사용자 코드 저장소 전체를 구글 클라우드에 몰래 업로드해온 사실이 드러났어요. 개인정보 보호 토글을 꺼도 업로드가 계속됐고, 가짜 API 키가 담긴 .env 파일까지 그대로 전송됐대요. 일론 머스크는 삭제를 약속했지만 실제로 지워졌는지는 아직 외부에서 확인되지 않았어요.
더 레지스터의 코너 존스 기자가 7월 14일 전한 소식인데요, 솔직히 읽으면서 등골이 서늘했습니다. 보안 연구자 세레블랩이 그록 빌드를 뜯어본 결과, 이 코딩 CLI가 파일을 읽거나 처리할 때마다 그 내용을 xAI가 쓰는 구글 클라우드 스토리지 버킷으로 통째로 보내고 있었다는 거예요. 스페이스X에 완전히 흡수돼 이름까지 스페이스XAI로 바뀐 그 회사 맞습니다. ⚠️
문제는 여기서 끝이 아니에요. 그록 빌드는 사용자 질문에 답하는 데 필요한 파일만 골라 보내는 게 아니라, 저장소 전체를 깃 번들 형태로 통째로 묶어서 업로드했다고 합니다. 사용자가 읽지도 않은 파일, 깃 히스토리까지 몽땅 포함돼서요. 세레블랩이 테스트용으로 가짜 API 키와 데이터베이스 비밀번호를 넣은 .env 파일을 심어봤더니, 이게 라이브 모델 채널이랑 영구 저장 아카이브 양쪽으로 아무런 마스킹 없이 그대로 전송됐다고 하네요. 진짜 키였다면 어떤 일이 벌어졌을지 생각만 해도 아찔합니다.
근데 더 황당한 건 사용자가 개인정보 보호를 위해 꺼둘 수 있는 모델 개선 토글이 이 업로드에는 아무 영향을 주지 못했다는 점이에요. 토글을 꺼도 서버는 계속 trace_upload_enabled 값을 true로 돌려줬다고 하니, 사실상 사용자한테 선택권 자체가 없었던 셈이죠. 보안 분석가들 사이에서는 이번 사건이 주요 AI 랩이 저지른 데이터 처리 사고 중 손꼽힐 만큼 심각하다는 평가가 나오고 있습니다.
일론 머스크는 이 폭로가 터지자마자 서버 쪽 조치로 업로드를 중단시켰고, 그동안 쌓인 사용자 데이터를 전부 삭제하겠다고 공개적으로 약속했어요. 근데 더 레지스터는 실제로 삭제가 이뤄졌는지는 독립적으로 확인할 방법이 없다고 못 박았습니다. 말로만 지운다고 해놓고 실제로는 남아있는 경우도 흔하잖아요. 저는 개인적으로 이 부분이 제일 찜찜해요. 이미 코드가 통째로 외부 버킷에 올라간 이상, 삭제 약속만으로 안심하기는 어려워 보입니다. 특히 기업 고객이라면 소스코드 유출 자체가 계약 위반이나 법적 리스크로 이어질 수 있으니까요.
AI 코딩 도구가 우리 코드베이스를 얼마나 들여다보고, 그걸 어디로 보내는지 사용자는 사실 거의 알 방법이 없어요. 이번 일을 계기로 다른 코딩 에이전트들도 비슷한 문제가 없는지 한 번쯤 점검해봐야 하지 않을까 싶네요. 그록 빌드를 쓰던 개발자라면 지금이라도 로그를 다시 들여다볼 필요가 있어 보입니다.
출처