아르헨티나에서 15살 학생이 챗GPT와 나눈 대화 때문에 붙잡혔어요. 오픈AI가 위험 신호를 감지해 FBI에 알렸고, 8월19일 현지 경찰까지 움직였어요. 압수품엔 전술장갑과 위장복까지 있었지만 총기는 없었어요.
이번 얘기는 좀 서늘해요. 아르헨티나 킬메스에서 15살 학생이 챗GPT와 나눈 대화 내용 때문에 연방경찰에 체포됐다고 해요. 이 학생은 2027년으로 계획한 등교 공격을 앞두고, 같은 반 친구들을 공격하려면 뭐가 필요한지 챗GPT에 직접 물어봤다고 하더라고요.
문제는 여기서 오픈AI의 모니터링 시스템이 작동했다는 거예요. 대화에서 감시 대상 키워드가 감지되자 오픈AI 내부에서 검토가 이뤄졌고, 이 정보가 부에노스아이레스 주재 미국 대사관의 FBI 법무관을 통해 8월 19일 아르헨티나 당국으로 전달됐어요.
그 뒤로 아르헨티나 경찰이 실제로 이 학생의 집을 급습했는데, 압수품 목록이 꽤 구체적이에요. 전술장갑, 발라클라바, 위장복까지 나왔다고 하는데, 다행히 총기류는 발견되지 않았대요. 학생은 아르헨티나의 새로운 청소년 위협 모니터링 프로토콜에 따라 공공 위협 혐의로 기소됐다고 하고요.
솔직히 이 사건을 보면서 복잡한 감정이 드는 게 사실이에요. 한편으로는 AI 대화 모니터링이 실제로 비극을 막는 데 쓰였다는 점에서 다행이라는 생각이 들고요, 다른 한편으로는 15살 학생의 사적인 대화 내용이 다국적 기관들을 거쳐 순식간에 다른 나라 경찰 손에까지 넘어갔다는 사실이 좀 섬뜩하기도 해요. 근데 실제로 학교 공격을 계획하고 있었다면, 이런 시스템이 없었다면 어떻게 됐을지 상상하기도 무섭고요. ⚠️
사실 오픈AI가 위험 대화를 당국에 신고한 사례가 이번이 처음은 아니에요. 최근에는 플로리다에서도 챗GPT에 살해 협박을 구체적으로 늘어놓은 이용자를 오픈AI가 FBI에 신고해서 붙잡힌 사례가 있었거든요. 챗GPT 이용자가 수억 명에 달하는 만큼, 이런 안전 모니터링 시스템이 실제로 작동하는 사례가 앞으로도 계속 나올 것 같아요.
근데 이게 또 다른 질문을 낳기도 해요. 어디까지가 정당한 안전 개입이고 어디서부터가 과도한 감시인지 그 경계가 아직 명확하지 않다는 거죠. 이번 사건처럼 실제 위협이 확인된 경우엔 다들 박수를 칠 텐데, 만약 오탐이었다면 어땠을까요. AI 회사들이 이런 판단을 계속 내려야 하는 상황 자체가 생각보다 훨씬 무거운 책임인 것 같아요. 🌐
앞으로 이런 AI 기반 위협 감지 시스템이 얼마나 더 정교해질지, 그리고 각국이 이런 국제 공조를 어떻게 제도화할지 지켜봐야 할 것 같아요.
출처