앤스로픽 레드팀이 소형 AI가 가전 기기를 타고 퍼질 수 있다고 경고했어요. 안드로이드 TV 박스 15대에서 AI가 직접 돌아가는 시연까지 했어요. 완전한 AI 웜은 아직 없지만 몇 달 거리일 수 있다는 게 핵심이에요.
앤스로픽의 프런티어 레드팀이 월요일(10월 12일) 꽤 섬뜩한 보고서를 냈어요. 요지는 간단해요. 작은 AI 모델이 스마트 TV나 스마트 오븐 같은 인터넷 연결 가전을 돌아다니며 스스로 복제할 수 있는 시점이 몇 달 안에 올 수도 있다는 거예요. 🤖
근데 이게 그냥 "상상해 봤다"가 아니에요. 연구진은 값싼 안드로이드 TV 박스 15대 위에서 AI 모델이 실제로 돌아가는 걸 보여줬고, 더 똑똑한 모델들은 가상 네트워크 안에서 기기를 옮겨 다니며 복제되는 실험까지 했다고 해요.
기존 악성코드랑 뭐가 다르냐고 물을 수 있는데, 연구진이 짚은 차이는 적응력이에요. 전통적인 멀웨어는 정해진 취약점을 노리고 정해진 방식으로 퍼지잖아요. 반면 AI는 처음 보는 기기에서도 상황을 파악하고, 막히면 다른 길을 찾을 수 있어요. 사람이 뒤에서 조종하지 않아도요. 그러면 네트워크가 한번 퍼진 뒤에는 "어디부터 꺼야 하지?"가 진짜 문제가 돼요. ⚠️
물론 과장은 경계해야 해요. 연구진 스스로도 현실 세계에서 완전히 자율적으로 움직이는 AI 웜을 시연한 건 아직 아니라고 분명히 말했어요.
솔직히 저는 이 보고서의 무게가 "지금 당장 위험하다"보다 "방어 쪽이 준비할 시간이 얼마 없다"에 있다고 봐요. 가전은 보안 업데이트가 거의 안 되는 대표적인 영역이잖아요. 집집마다 TV, 셋톱박스, 스피커가 있고 비밀번호는 초기값 그대로인 경우도 많고요.
또 하나 흥미로운 건 발신자예요. 앤스로픽은 자기네 모델을 만드는 회사인데, 오히려 그 모델이 쓰일 수 있는 최악의 시나리오를 먼저 꺼냈어요. 최근 AI 업계에서 연달아 나오는 샌드박스 이탈 사례와 에이전트 안전 논쟁 흐름과도 이어지는 이야기고요. 📈
그래서 앞으로 정말 궁금한 건 이거예요. 기기 제조사들이 "AI가 돌아다닐 수 있다"를 전제로 보안을 다시 설계하게 될까요, 아니면 늘 그랬듯 사고가 한 번 터져야 움직일까요?
출처