메타가 300억 파라미터 오픈소스 AI 모델 '뮤즈 글리머'를 8월 10일 공개했어요. 4비트 양자화로 메모리 사용량을 20GB 밑으로 줄여 소비자용 GPU 한 대로 돌아가요. 클라우드 없이 로컬에서 도는 AI 에이전트 시대가 성큼 다가왔다는 신호예요.
솔직히 요즘 AI 모델 소식이 워낙 쏟아지다 보니 웬만한 발표엔 무덤덤해지는데, 이번 건 좀 다르더라고요. 메타 슈퍼인텔리전스랩(MSL)이 8월 10일 🤖 '뮤즈 글리머(Muse Glimmer)'라는 300억 파라미터 모델을 아파치 2.0 라이선스로 풀었어요. 상업적 이용까지 자유로운, 진짜 오픈소스예요.
핵심은 크기가 아니라 어디서 돌아가느냐예요. 원래 55GB에 가까운 메모리를 먹던 모델을 4비트로 양자화해서 18~20GB 안으로 눌러 담았대요. RTX 5090 한 장이나 맥북 M4-맥스급 맥이면 충분히 로컬에서 돌릴 수 있다는 거죠. 근데 이게 왜 중요하냐면, 지금까지 '에이전트'라고 부르는 것들은 대부분 클라우드 API를 계속 호출하는 구조였잖아요. 인터넷 끊기면 못 쓰고, 요청할 때마다 돈 나가고. 뮤즈 글리머는 그 전제를 흔들어요.
성능도 허투루 낸 숫자는 아니에요. 딥서치 QA, MCP-아틀라스, τ-벤치, SWE-벤치 같은 에이전트 벤치마크에서 구글 젬마4-31B, 알리바바 큐원3.6-27B와 나란히 붙었는데 밀리지 않는다고 하고요 📊. 여기에 'DFlash'라는 추측 디코딩 드래프터를 얹으면 생성 속도가 훨씬 빨라진다고 해요.
사실 메타 입장에선 이게 처음이 아니에요. 뮤즈 스파크 1.1, 1.2에 이어 뮤즈 코드까지, 최근 몇 주 사이 오픈소스 에이전트 라인업을 계속 확장해왔거든요. 오픈AI나 앤트로픽이 API 뒤에 모델을 꽁꽁 숨기는 동안, 메타는 반대로 다운로드 받아서 내 컴퓨터에서 돌리는 쪽에 🔥 계속 판돈을 걸고 있는 셈이에요.
개인적으로는 이 흐름이 꽤 마음에 들어요. 성능은 조금 아쉬워도 데이터가 내 기기 밖으로 안 나가고, 요금 걱정 없이 마음껏 실험해볼 수 있다는 게 개발자 입장에선 크거든요 🚀. 다만 30B 모델이 아무리 양자화됐다 해도 일반 사용자 노트북에서 매끄럽게 돌아갈지는 좀 더 지켜봐야 할 것 같고요.
올라마, LM 스튜디오, llama.cpp, MLX, 이그제큐토치 같은 로컬 실행 도구 지원도 곧 붙는다고 하니, 며칠 안에 실제 사용기들이 쏟아질 것 같아요. 허깅페이스에서 이미 받아볼 수 있는 상태고요. 다음 주쯤이면 다들 자기 컴퓨터에서 몇 토큰/초 나오는지 자랑하는 글들이 올라오지 않을까요.
출처