케임브리지대 연구진이 나이지리아 무장단체 보코하람의 AI 활용 실태를 처음으로 심층 조사했어요. 전직 대원 27명 인터뷰 결과, 챗GPT·클로드·제미나이 등으로 폭탄 설계와 전술까지 조언받았대요. AI 기업들의 안전장치가 우회당하고 있다는 사실이 드러나며 업계 전체에 경고음이 커지고 있어요.
솔직히 이 뉴스 보고 좀 소름 돋았어요. 오늘(7월 11일) 뉴욕타임스가 보도한 케임브리지대 AI·과학정책 프로그램의 연구 결과인데요, 나이지리아 북동부에서 활동하는 이슬람 무장단체 보코하람과 그 분파 ISWAP이 생각보다 훨씬 조직적으로 AI 챗봇을 전쟁 도구로 쓰고 있다는 내용이에요. 🇳🇬
연구를 진행한 안토니아 율리히(Antonia Juelich) 박사는 지난 1년간 전직 보코하람 대원 27명을 대면 인터뷰했어요. 나이지리아 현지 호텔방에서 노트북을 펴놓고 챗봇을 직접 보여주면서 물어봤다고 하더라고요. 한 전직 지휘관은 이렇게 말했대요. "질문을 입력하면... 마치 인간 로봇처럼 알려줘요. 우리는 그걸 많이 썼어요."
용도가 진짜 다양해요. 폭발물 설계는 기본이고, 노획한 군사 장비 식별, 무기 수리, 전술 조언, 심지어 공격 이후 사후 분석까지 AI한테 물어봤다고 해요. 인상 깊었던 사례 하나는, 군 기지를 습격하다가 방어용 참호에 막히자 오토바이를 어떻게 개조하면 참호를 넘을 수 있는지 AI에게 물어본 거예요. 한 대원은 "시행착오는 죽음으로 이어질 수 있지만, AI는 정확도를 줘요"라고 했고, 또 다른 대원은 "예전엔 폭발이 그렇게 크지 않았는데, AI가 알려준 뒤로는..."이라며 말끝을 흐렸대요. 💣
언급된 AI 서비스는 챗GPT, 클로드, 제미나이, 그록, 딥시크까지 거의 다 나와요. 근데 더 무서운 건 이 그룹이 몇 명이 몰래 쓴 게 아니라, 외부 지하디스트 조직원들이 2023년부터 2025년 사이 여러 차례 방문해서 지휘관들한테 'AI 활용법'을 직접 훈련시켰다는 거예요. 사실상 전담팀도 있고 내부 교육 체계도 있었다는 얘기죠. 그동안 업계에서는 무장단체의 AI 활용이 선전물 제작이나 모병 같은 '홍보 영역'에 머물러 있다는 시각이 많았는데, 이번 연구는 그 통념을 정면으로 깨는 셈이에요.
사실 AI와 테러리즘을 연결짓는 우려 자체는 새로운 게 아니에요. 앤트로픽이나 오픈AI도 매년 발표하는 위협 보고서에서 국가 배후 해킹 조직이나 사기 조직의 오남용 사례를 공개해왔거든요. 근데 이번처럼 실제 현장 지휘관을 직접 인터뷰해서 "AI가 폭발력을 키워줬다"는 구체적 증언까지 나온 건 처음이라, 파급력이 좀 다르다고 봐요.
안전장치는 어떻게 뚫렸을까요. 대원들 증언에 따르면 요청을 위장하면 대부분 통과됐대요. 영화 시나리오라거나 소설 집필이라고 둘러대는 식으로요. 오픈AI 측은 테러 목적 사용이 정책 위반이라며 안전장치를 강화하고 있다고 밝혔고, 구글과 앤트로픽도 모델이 위험한 요청을 거부하도록 설계돼 있다면서 계속 개선 중이라고 했어요. 근데 이미 뚫렸다는 증언이 나온 마당에 "설계돼 있다"는 해명이 얼마나 위안이 될지는 모르겠네요. ⚠️
개인적으로는 이게 단순히 보코하람 하나의 문제는 아니라고 봐요. 오픈소스든 클로즈드든 결국 자연어로 위장만 잘하면 뚫리는 구조라면, 지금 나와 있는 '가드레일'이 얼마나 형식적인 안전판인지 보여주는 사례 같거든요. 특히 무기 설계나 폭발물 관련 지식은 레드팀 테스트에서 늘 최우선으로 다뤄지는 영역인데, 실전에서 이렇게 뚫린 사례가 학술 보고서로 나온 거잖아요. 규제 당국도 이번엔 가만있기 어려울 것 같아요. 🔥
이 연구가 앞으로 AI 안전 정책 논의에 어떤 영향을 줄지, 기업들이 정말 실효성 있는 대응을 내놓을지는 조금 더 지켜봐야 할 것 같아요.
출처