메타, 노트북서 도는 오픈소스 AI '뮤즈 글리머' 공개
GPU 한 장이면 충분한 300억 파라미터 에이전트 모델 🤖
GPU 한 장이면 충분한 300억 파라미터 에이전트 모델 🤖
300억
오픈소스 로컬 에이전트 모델
4비트 양자화로 메모리를 3분의 1로 줄였어요
DFlash 추측 디코딩 적용 시 속도예요
딥서치 QA, τ-벤치, SWE-벤치 등에서 젬마4-31B·큐원3.6-27B와 대등한 성적을 냈어요 📊
GPU 1장
RTX 5090 또는 맥북 M4/M5-Max로 충분
올라마, LM 스튜디오, llama.cpp, MLX 지원이 곧 추가돼요 🚀