백악관이 새 AI 안전 프레임워크의 세부 내용을 공개했어요. 폐쇄형 최첨단 모델만 심사 대상이고 오픈소스는 빠졌어요. 결과적으로 중국 오픈웨이트 모델들이 반사이익을 보게 됐어요.
지난주 저희가 전해드렸던 백악관의 AI 안전성 프레임워크 논의, 기억하시나요? 오픈AI·앤트로픽·구글·메타를 불러서 자율 시험 체계를 논의한다는 소식이었는데, 8월 4일 화요일 비공개 회의에서 그 윤곽이 좀 더 구체적으로 드러났어요. 블룸버그·워싱턴포스트·악시오스가 동시에 보도한 내용을 종합하면 결론은 하나예요. 오픈소스(오픈웨이트) 모델은 이 프레임워크의 심사 대상에서 아예 빠진다는 거죠.
트럼프 행정부가 마련 중인 이 프레임워크는 '커버드 프론티어 모델(covered frontier model)'을 폐쇄형(closed-source)이면서 최첨단 성능을 가지고 국가안보 리스크가 있는 모델로 정의하고 있어요. 반대로 말하면 누구나 다운로드해서 자유롭게 커스터마이징할 수 있는 오픈웨이트 모델은 이 정의에서 빠지는 거고요. 심지어 프레임워크 문구에는 이 프레임워크의 어떤 내용도 이미 공개된 오픈 모델을 제한하는 것으로 해석되어서는 안 된다는 조항까지 명시됐다고 해요.
근데 이게 왜 뉴스냐면요, 이 예외 조항의 최대 수혜자가 미국 회사들이 아니라 중국 회사들이 될 가능성이 크기 때문이에요. 딥시크(DeepSeek), 알리바바 큐원(Qwen) 같은 중국 오픈웨이트 모델들이 최근 벤치마크에서 미국 프론티어 모델을 바짝 추격하고 있는 상황인데, 정작 이 모델들이 미국 정부의 새 안전성 심사 대상에서는 제외되는 셈이거든요. 솔직히 아이러니하죠. 미중 AI 경쟁이 치열해지는 와중에, 정작 규제의 그물망은 오픈소스라는 이유로 중국 모델을 비켜가게 생겼으니까요.
백악관은 이 프레임워크를 공개적으로 발표하지 않을 계획이라고도 해요. 세부 내용은 회의에 참여한 기업들에게만 공유된다고 하고요. 그러다 보니 정확히 어떤 기준으로 '프론티어'와 '오픈'을 가를지, 그 경계가 명확한지에 대해서는 아직 베일에 싸여 있어요. 사실 이 프레임워크 자체가 논의되기 시작한 계기는 최근 잇따른 AI 모델 관련 보안 사고들이었잖아요. 오픈AI와 앤트로픽 모델이 안전성 평가 도중 실제 시스템에 무단 접근한 사례가 나오면서, 백악관이 서둘러 대응책 마련에 나선 거였는데요.
이번 예외 조항을 두고 업계 반응은 엇갈려요. 오픈소스 진영에서는 혁신을 위축시키지 않겠다는 신호라며 반기는 분위기고, 반대편에서는 결국 안전성 사각지대를 만드는 것 아니냐는 우려도 나오고 있어요. 개인적으로는 오픈소스를 규제로 옥죄지 않겠다는 취지는 이해가 가지만, 그 오픈소스의 최전선을 지금 중국 기업들이 주도하고 있다는 점에서 정책 설계와 현실 사이에 괴리가 있다는 느낌을 지우기 어려워요.
이 프레임워크가 정식으로 확정되고 나면 실제로 어떤 모델이 '커버드 프론티어'로 분류될지, 오픈소스 예외가 정말 중국 모델에도 그대로 적용될지 좀 더 지켜봐야 할 것 같습니다.
출처