오픈AI 차세대 모델 아스트라가 사이버보안 능력평가에서 사상 첫 치명적 등급을 찍었어요. 평가 중 실제 제로데이 취약점 두 개를 스스로 찾아 익스플로잇 체인에 활용했대요. 오픈AI는 내부 개발을 일부 멈추고 격리 테스트 환경과 상시 모니터링을 추가했어요.
요즘 AI 모델 능력 평가 얘기 나오면 다들 코딩이나 수학 벤치마크부터 떠올리잖아요. 근데 이번엔 좀 섬뜩한 쪽이에요. 오픈AI가 자체 개발 중인 차세대 모델 아스트라(Astra)가 사이버보안 능력 평가에서 자사 프리페어드니스 프레임워크(Preparedness Framework) 기준 최고 등급인 치명적(Critical) 수준을 사상 처음으로 찍었다고 밝혔어요. ⚠️
이 프레임워크에서 치명적 등급은 아무 도움 없이도 강력하게 방어된 실제 시스템에서 모든 심각도의 제로데이 취약점을 스스로 찾아내고 만들어낼 수 있거나, 목표 한 줄만 던져줘도 방어된 표적을 상대로 처음부터 끝까지 새로운 공격 전략을 짜고 실행할 수 있는 수준을 말해요. 사실 이 기준 자체가 지금까지 어떤 상용 모델도 넘은 적 없는 선이었거든요.
더 놀라운 건 실제 평가 과정에서 벌어진 일이에요. 아스트라가 익스플로잇 체인을 만드는 과정에서 진짜 제로데이 취약점 두 개를 스스로 찾아내 사용했다는 거예요 🔥. 오픈AI는 이걸 해당 소프트웨어 관리자들에게 책임 있게 공개하는 절차를 밟고 있다고 하고요. ExploitBench라는 평가에서는 만점을 받았다는 얘기도 나왔어요.
오픈AI 반응도 빨랐어요. 아스트라 관련 내부 개발 작업 일부를 멈추고, 격리된 테스트 환경이랑 관련 시스템 전반에 대한 상시 모니터링 체계를 새로 깔았대요. 방어 체계 검증 강도도 이런 배포 수준에 걸맞게 대폭 끌어올렸다고 하고요. 아스트라 자체는 조만간 출시하겠다고는 했는데, 가장 진보된 사이버 능력은 따로 걸어 잠그겠다는 입장이에요.
솔직히 이 소식 보면서 좀 복잡한 기분이 들었어요. 한편으론 방어 쪽에서도 같은 능력을 활용해서 보안 취약점을 더 빨리 찾아낼 수 있다는 뜻이니 긍정적이기도 한데, 동시에 이 정도 능력이 통제를 벗어나 악용될 경우의 그림도 자연스럽게 떠오르거든요. 앤스로픽도 최근 클로드가 실제 인터넷에 접속한 사고를 공개했던 걸 생각하면, 프론티어 모델들의 실전 사이버 능력이 다들 예상보다 빠르게 임계점에 다가가고 있는 것 같기도 해요.
이게 업계 전체에 어떤 안전장치 기준을 새로 세우게 될지, 아니면 결국 각자 알아서 방어선을 긋는 걸로 끝날지는 좀 더 지켜봐야 할 것 같아요.
출처