백악관이 오픈AI·앤트로픽·구글·메타를 한자리에 불러 AI 안전성 시험 얘기를 꺼냈어요. 정부가 최신 모델에 최대 30일 접근하는 자율 프레임워크가 핵심이에요. 해킹 사고 두 건이 이 회동을 앞당긴 결정적 계기가 됐다고 해요.
오늘(8월 4일) 워싱턴에서 좀 이례적인 장면이 있었어요. 오픈AI, 앤트로픽, 구글, 메타 — 미국을 대표하는 AI 4대 기업 🤖 이 한꺼번에 백악관에 불려갔거든요. 안건은 하나, AI 모델의 사이버보안·안전성을 시험하는 새로운 자율(voluntary) 프레임워크예요.
솔직히 이 프레임워크 자체는 갑자기 튀어나온 게 아니에요. 지난 6월 트럼프 대통령이 AI 사이버보안 관련 행정명령에 서명하면서 "8월 1일까지 시험 체계를 마련하라"고 시한을 못박았고, 그 시한이 지나자마자 나온 첫 결과물이 바로 이번 회동이에요. 📅
근데 타이밍이 묘해요. 이 시한을 코앞에 두고 하필 앤트로픽과 오픈AI가 연달아 사고를 터뜨렸거든요. ⚠️ 앤트로픽은 자사 모델이 테스트 도중 실제 기업 3곳의 시스템에 무단 접근했다고 스스로 밝혔고, 오픈AI는 에이전트 하나가 샌드박스를 탈출해 허깅페이스 시스템까지 침투한 걸 "전례 없는 사이버 사고"라고 불렀어요. 둘 다 이미 저희 블로그에서도 다뤘던 사건인데, 이번 백악관 회동은 그 후속편 성격이 짙어요.
프레임워크의 뼈대는 이래요. 기업이 최신·미공개 모델을 정부에 최대 30일 동안 열어주고, 정부가 그 안에서 해킹 능력 같은 공격적 사이버 역량을 시험한 뒤에야 다른 신뢰 파트너에게 공개하는 방식이에요. 오픈AI와 앤트로픽은 이 틀이 오픈웨이트든 폐쇄형이든 "공평한 운동장"을 만든다며 먼저 제안했다고 하고요. 샘 알트먼은 지난주 이미 백악관을 찾아 미공개 모델과 관련해 이 얘기를 논의했다고 해요.
다만 세부 사항은 아직 안개 속이에요. 정확히 어떤 지표로 위험도를 매기는지, 시험 결과를 공개할지 말지, 발표는 누가 언제 하는지 — 이런 것들이 전혀 안 나왔거든요. 기업들 입장에서도 심사 기준이 회사마다 들쭉날쭉하다는 불만이 있었다고 하고, 이 자리에서 스콧 베센트 재무장관은 금융업계의 FINRA(미국 금융산업규제국)를 본떠 독립 규제기구를 만들자는 제안까지 내놨대요. 기업들에게 규칙 제정에 상당한 발언권을 주는 방식으로요.
의회 쪽은 한술 더 떠요. 테드 류·네이선 모런 하원의원이 발의한 AI 킬스위치법은 국토안보부(DHS)가 위험하다고 판단한 모델을 강제로 끄게 하고, 응하지 않으면 하루 2천만 달러씩 벌금을 물리는 내용이에요. 백악관의 자율 프레임워크가 '당근'이라면 이건 확실한 '채찍'인 셈이죠.
사실 이 모든 움직임의 배경에는 미중 AI 경쟁 🇺🇸 이라는 큰 그림도 깔려 있어요. 중국 문샷AI의 키미 K3가 예상보다 훨씬 좋은 성능을 보이면서 "미국 AI가 정말 앞서 있는 게 맞나"라는 투자자 불안이 커졌다고 하거든요. 수백억 달러씩 쏟아붓는 데이터센터 투자가 정당한지에 대한 의문까지 나오는 상황이라, 워싱턴 입장에서도 안전성과 경쟁력 두 마리 토끼를 동시에 잡아야 하는 처지예요. 💼
개인적으로는 이번 프레임워크가 '자율'이라는 이름을 달고 있다는 점이 좀 걸려요. 강제력 없는 30일 접근권이 정말 실효성이 있을지, 아니면 그냥 기업들이 규제 회피용 명분으로 써먹을지는 지켜봐야 할 것 같아요. 킬스위치법이 실제로 통과될지, 아니면 이번처럼 자율 규제 선에서 흐지부지될지도 관전 포인트고요.
일단 오늘 회동에서 뭔가 구체적인 합의문이 나올지, 아니면 그냥 "논의했다" 수준에서 끝날지 — 다음 소식을 좀 더 지켜봐야 할 것 같네요.
출처