미라 무라티의 씽킹머신스랩이 첫 오픈웨이트 모델 '잉클링'을 공개했어요. 9750억 파라미터에 45조 토큰으로 학습한 멀티모달 모델이에요. 오픈AI 출신이 만든 모델이 중국 오픈소스 진영에 맞불을 놓은 셈이에요.
씽킹머신스랩이 드디어 첫 오픈웨이트 모델을 내놨어요. 이름은 '잉클링(Inkling)', 오픈AI 전 CTO 미라 무라티가 2024년 9월 회사를 나와 차린 곳인데, 9개월 넘게 조용히 준비만 하다가 이번에 처음으로 가중치를 통째로 공개한 거예요. 🤖
스펙부터 볼까요. 총 파라미터는 9750억 개, 근데 실제로 프롬프트 하나 처리할 때 쓰는 활성 파라미터는 평균 410억 개 수준이에요. MoE(전문가 혼합) 구조라서 그런데, 텍스트·이미지·오디오·영상까지 45조 토큰을 넣어서 학습시켰대요. 입력은 텍스트·이미지·오디오·영상 다 받고, 출력은 텍스트(코드나 구조화된 데이터 포함)로만 나오는 구조고요.
근데 성능이 은근히 매섭더라고요. 엔비디아 네모트론3 울트라랑 비교했을 때 코딩 성능은 비슷한데 토큰은 3분의 1만 쓴다고 해요. 브리지워터 어소시에이츠랑 같이 돌린 금융 추론 벤치마크에서는 84.7%를 찍었는데, 이게 기존 프로프라이어터리 모델들 최고 성능을 비용은 10분의 1 이하로 내면서 넘어섰다고 해요. 숫자만 보면 좀 믿기 힘든데, 사실이라면 꽤 파격적이에요.
라이선스는 완전 오픈웨이트라 누구나 무료로 다운로드해서 쓸 수 있어요. 대신 파인튜닝은 씽킹머신스 자체 플랫폼인 '팅커(Tinker)'에서 유료로 돌리는 구조예요. 회사는 토큰당 과금 대신 이 플랫폼 이용료로 돈을 벌겠다는 전략인 셈이죠. 학습은 엔비디아 GB300 NVL72 시스템에서 했는데, 지난 3월 엔비디아랑 발표했던 파트너십이 이렇게 이어진 거네요.
솔직히 이 타이밍이 재밌어요. 요즘 Z.ai GLM-5.2 같은 중국 오픈소스 모델들이 가성비로 치고 올라온다는 얘기가 계속 나오는 와중에, 서방 진영에서 무라티가 오픈웨이트 카드를 꺼낸 거잖아요. 퓨처럼그룹의 미치 애슐리는 서구 기업들에 토큰당 API 과금 대신 커스터마이징 경제로 옮겨갈 수 있는 신뢰할 만한 대안을 줬다고 평가했고, 컨스텔레이션 리서치의 홀거 뮬러는 아예 업계를 뒤흔들 수 있다고까지 했어요.
2000억 달러대 시드 투자 받고 나온 지 1년, 근데 그동안 프로덕트다운 프로덕트가 없어서 말이 많았던 회사가 이제야 손에 잡히는 걸 내놨어요. 개인적으로는 '불확실성 플래깅' 기능이 눈에 띄는데, 모델이 스스로 확신 없는 부분을 표시해준다는 거라 할루시네이션 문제에 실질적으로 도움이 될지 궁금해요. 기업들이 실제로 팅커 플랫폼에 얼마나 지갑을 열지, 그게 진짜 관전 포인트일 것 같아요.
출처