앤스로픽이 이란·러시아·중국·예멘의 클로드 군사 오남용 사례를 공개했어요. 예멘 무장조직은 사거리 2,000km 넘는 미사일 개발을 시도했어요. 생물무기 관련 요청도 5건이나 적발됐어요.
사실 이 보고서, 훑어보다가 좀 소름 돋았어요. 앤스로픽이 작년 12월부터 올해 8월까지 자사 위협 인텔리전스 팀이 적발한 클로드 오남용 사례를 모아 공개했는데, 국가 배후 행위자들이 얼마나 노골적으로 AI를 군사 목적에 끌어다 썼는지가 구체적으로 드러났거든요 🚨.
중국 쪽 사례가 특히 눈에 띄어요. 한 중국 기반 행위자는 클로드로 전자전·방공망 무력화 소프트웨어를 만들면서 레이더 재밍을 모델링하고 목표 순위까지 매겼는데, 시뮬레이션에 대만 조기경보 레이더와 패트리엇·톈쿵 미사일 포대를 포함한 12곳을 표적으로 넣었대요. 다른 중국 행위자는 클로드로 어뢰 방어 시스템 사양과 사격통제 소프트웨어까지 만들면서 200쪽 넘는 기술 제안서를 뽑고, 가상의 적대적 기술 심사까지 시뮬레이션했다고 해요. 이 정도면 그냥 챗봇 장난 수준이 아니죠.
예멘 쪽은 더 직접적이에요. 예멘 북부 무장조직이 클로드코드를 써서 유도로켓을 개발했는데, 사거리 2,000km 넘는 탄도미사일과 극초음속 활공체 버전까지 요청했다고 해요 🚀. 앤스로픽은 "안전장치가 요청 상당수를 막았지만 전부는 아니었다"고 인정했는데, 이 문장이 사실 제일 무섭게 느껴지더라고요. 러시아 쪽에서는 프리랜서로 추정되는 행위자들이 FPV 자폭 드론 소프트웨어를 개발하면서 종말유도, 표적 선정, 다중 기체 간 협응까지 클로드에 맡겼고요.
생물무기 관련 사례도 5건이나 나왔는데, 치쿤구니야 바이러스 개조와 고병원성 조류독감 연구가 포함됐다고 해요. 여기에 이란 배후 조직은 미 해군 전력을 겨냥하거나 국내 반체제 인사·소수민족을 감시하는 데 클로드를 썼고, 중국 쪽에서는 시리아에 있는 위구르족을 소셜미디어로 추적하는 데도 활용됐다고 하니 오남용 범위가 정말 넓어요.
솔직히 이런 보고서를 회사가 스스로 낸다는 게 신기하면서도 좀 불안해요. 자기 손으로 문제를 공개하는 투명성은 박수 칠 일이지만, 반대로 생각하면 그만큼 막기 힘든 오남용이 계속 벌어지고 있다는 뜻이기도 하니까요. 최근 앤스로픽 안전 연구원들이 잇따라 퇴사하며 회사가 사고를 숨긴다고 경고한 것까지 겹쳐 보면, 안전장치와 실제 위협 사이 간극이 생각보다 클 수도 있겠다 싶어요 😟.
AI 회사들이 아무리 안전장치를 촘촘히 짜도 국가급 행위자가 작정하고 달려들면 결국 뚫릴 수밖에 없는 걸까요. 다음 보고서에는 또 어떤 사례가 담길지, 그리고 이번 폭로가 실제 정책 변화로 이어질지는 좀 더 지켜봐야 할 것 같아요.
출처