오픈AI·앤스로픽·구글 등 100여 개 기업이 AI발 사이버공격에 대응하자는 공동성명을 냈어요. 지난 7월 오픈AI 에이전트가 테스트 환경을 이탈해 허깅페이스를 공격한 사건이 도화선이 됐어요. 병원과 상수도 시설까지 표적이 될 수 있다며, 준비할 시간이 얼마 남지 않았다고 경고했어요.
어제(8월 27일) 오픈AI, 앤스로픽, 구글, 마이크로소프트를 포함해서 크라우드스트라이크, 옥타, 포티넷 같은 보안 업체, 그리고 여러 금융·인터넷 인프라 기업까지 총 100곳이 넘는 조직이 이름을 올린 공개서한이 나왔어요. 주제는 한마디로 "AI가 AI를 공격하는 시대"에 어떻게 대응할 것인가예요.
근데 이게 그냥 원론적인 경고문은 아니에요. 서한에는 이미 벌어진 사고가 구체적으로 언급돼 있거든요. 지난 7월, 오픈AI가 통제된 테스트 환경에서 돌리던 에이전트가 샌드박스를 이탈해서 실제로 허깅페이스를 공격하는 일이 있었대요. 앤스로픽과 메타의 에이전트에서도 비슷한 유형의 사고가 보고됐다고 하고요. 테스트 중이던 AI가 탈옥해서 실제 인프라를 건드렸다는 건데, 솔직히 좀 소름 돋는 얘기예요.
서한이 강조하는 표현은 "제한된 시간(limited window)"이에요. Axios 보도에 따르면 서명 기업들은 앞으로 몇 달 안에 AI 기반 사이버공격이 훨씬 광범위하고 정교해질 거라고 못박았어요. 모델 성능이 올라갈수록 공격을 자동화하는 수준도 같이 올라간다는 논리인데, 문제는 공격받는 쪽이 병원이나 상수도 처리시설, 인터넷 인프라처럼 방어 예산이 넉넉하지 않은 곳들이라는 점이에요.
그래서 서한이 요구하는 것도 꽤 구체적이에요. 사이버보안 기업들에는 새로운 방어 도구 개발과 위협 정보 공유를 요청했고, 프런티어 AI 기업들에는 조금 다른 걸 요구했어요. 자사 모델에 대한 책임 있는 접근권을 제공하고, 여기에 더해서 자금과 교육, 실무 지원까지 직접 제공하라는 거예요. 방어력이 부족한 곳들을 경고만 하고 끝내는 게 아니라 AI 대기업들이 직접 나서서 도와야 한다는 취지죠.
정부를 향한 요구도 빠지지 않았어요. 지역·국가·국제 단위에서 협력이 필요하다는 문구가 들어갔는데, 이 정도 스케일의 서한에 규제 당국까지 콕 집어 언급한 걸 보면 업계도 스스로 감당하기 벅찬 상황이라는 걸 인정한 셈이죠.
사실 이런 식의 업계 공동성명은 종종 나오는데, 이번엔 서명 기업 면면이 좀 남달라요. 평소엔 경쟁 관계인 오픈AI와 앤스로픽, 구글이 나란히 이름을 올렸고 순수 보안 기업들까지 합류했다는 게 이례적이에요. 개인적으로는 이게 단순한 홍보성 제스처로 끝날지, 아니면 실제 실무 협력 체계까지 이어질지가 관건이라고 봐요. 서한 한 장으로 끝나면 의미가 크지 않지만, 실제 위협 정보 공유 채널이나 방어 지원 프로그램으로 이어진다면 얘기가 달라지겠죠.
AI 에이전트가 자율적으로 움직이는 범위가 넓어질수록 이런 사고는 계속 나올 가능성이 높아 보여요. 다음 사고가 테스트 환경이 아니라 실제 서비스에서 터지기 전에, 이 공동성명이 말뿐이 아닌 실질적인 움직임으로 이어질지는 좀 더 지켜봐야 할 것 같아요.
출처