메타가 오픈 웨이트 모델 Muse Spark Open을 공개했어요. 816B MoE에 활성 42B, 컨텍스트 100만 토큰이에요. 애플과 협력해 맥 스튜디오 2~4대에서 돌릴 수 있게 했어요.
메타가 이번에는 문을 열었어요. 며칠 전 폐쇄형 프런티어 모델 Muse Wonder를 내놓은 데 이어, 오픈 웨이트 모델 Muse Spark Open을 공개했거든요. 🚀 메타는 이걸 "지금까지 나온 가장 강력한 미국산 오픈 웨이트 모델"이라고 부르고 있어요.
스펙은 이래요. 전체 파라미터 8,160억 개의 MoE 구조에 활성 파라미터는 420억 개, 컨텍스트 창은 100만 토큰이에요. 장시간 코딩과 에이전트 작업을 겨냥했다고 해요.
흥미로운 건 하드웨어 쪽이에요. 애플과 협력해서 M5 Ultra 맥 스튜디오 2~4대를 묶어 MLX로 돌릴 수 있게 최적화했대요. SGLang, vLLM, TensorRT-LLM도 지원하고요. 8천억 파라미터급 모델을 책상 위 맥 몇 대로 돌린다니, 솔직히 좀 놀랐어요. 💯
라이선스는 Muse Model License라는 이름으로 나왔어요. 많은 개발자에게 무료로 열려 있다고는 하지만, 순수한 오픈소스 라이선스와는 다를 수 있으니 약관은 꼭 확인해야 해요. 이 부분은 보도만으로는 세부 조건을 알 수 없었어요.
사실 메타의 행보가 재밌어요. 한쪽에선 API 가격을 앞세운 폐쇄형 Wonder로 오픈AI·앤스로픽과 정면으로 붙고, 다른 쪽에선 오픈 모델로 개발자 생태계를 챙기는 투트랙이에요. 라마 시절의 오픈 전략을 완전히 버린 건 아니라는 얘기죠.
개인적으로는 "가장 강력한 미국산 오픈 웨이트"라는 표현이 어디까지 맞는지가 궁금해요. 미국산이라는 단서가 붙은 걸 보면 중국 모델과의 비교는 일부러 피한 느낌도 들고요. 독립 벤치마크가 나오면 그림이 더 선명해지겠죠.
출처
- research.meta.ai
- aiweekly.co