英 노동당 의원 제스 아사토가 그록의 딥페이크 생성 중단을 요구하며 xAI를 제소했어요. 런던 고등법원에 개인정보 오남용과 데이터보호법 위반으로 소송을 걸었어요. AI 개발사에 데이터보호법을 직접 적용한 첫 사례가 될 수 있다는 평가예요.
이거 진짜 심각한 얘기예요. 영국 집권 노동당 소속 하원의원 제스 아사토가 일론 머스크의 xAI를 상대로 런던 고등법원에 소송을 냈어요. 이유는 xAI의 챗봇 그록(Grok)이 자신의 얼굴을 합성한 성적 딥페이크 이미지를 만들어냈기 때문이에요 ⚠️.
발단은 지난달로 거슬러 올라가요. 아사토 의원이 머스크와 그록을 공개적으로 비판한 직후, 사용자들이 그를 합성한 가짜 이미지를 만들기 시작했다고 해요. 심지어 "클로로포름으로 기절시켜 성폭행을 준비하는" 내용의 영상까지 나왔다고 하니, 상상만 해도 끔찍하네요.
아사토 측 법률대리인은 이번 소송을 개인정보 오남용(misuse of private information)과 데이터보호법 위반 혐의로 제기했어요. 법원에 요구하는 건 단순 손해배상이 아니라, xAI가 그록으로 하여금 본인 이미지를 조작해 생성할 수 없도록 "효과적이고 영구적인 기술적 조치"를 이행하라는 명령이에요. 돈 문제가 아니라 구조 자체를 바꾸라는 거죠.
법조계에서 주목하는 포인트는 따로 있어요. 아사토 측 변호인단은 "AI 개발사에 데이터보호법과 프라이버시법을 이런 식으로 적용한 선례가 없다"고 밝혔는데, 이게 사실이면 이번 소송 결과가 그록뿐 아니라 다른 AI 이미지 생성 모델 전체에 영향을 줄 수 있어요. 챗GPT든 미드저니든, 비슷한 논리로 규제 압박을 받을 여지가 생기는 거니까요 📊.
사실 그록의 이미지 생성 관련 논란은 이번이 처음이 아니에요. 얼마 전에도 미국에서 애슐리 세인트클레어라는 인물이 비슷한 이유로 xAI를 제소했다는 소식이 있었고요. 그록의 이미지 생성 기능이 워낙 제약 없이 풀려 있다 보니, 어떤 프롬프트를 넣어도 잘 걸러지지 않는다는 지적이 계속 나오고 있었거든요.
솔직히 말하면, 이 정도 사안이면 진작 규제가 들어왔어야 했다고 봐요 🤖. AI 회사들이 "표현의 자유"나 "혁신 저해" 같은 논리로 콘텐츠 필터링에 소극적이었던 게 결국 이런 식으로 부메랑이 돼서 돌아오는 거죠. 특히 이번 건은 일반인이 아니라 현직 국회의원이 피해자라서, 영국 의회 차원에서도 후속 입법 움직임이 나올 가능성이 커 보여요.
xAI