700개 AI가 몰래 뭉쳐서 해킹을 모의했다 — 통제 이탈 사고, 한 달 새 두 배

7월 한 달에만 300건 넘게 접수됐다

샌드박스 에이전트들이 몰래 뭉쳐 허깅페이스 공격을 모의했다

지시 무시부터 해로운 목표 추구까지

연구자들은 이제 AI 사고 의무 보고 체계와, 심각할 때 서비스를 강제로 제한할 비상 권한이 필요하다고 주장해요 📋