바이트댄스가 최대 10조 파라미터급 AI 모델을 학습시키고 있대요. 목표는 앤트로픽의 최상위 모델 '미토스'를 따라잡는 거라고 해요. 미중 AI 경쟁이 이제 모델 몸집 싸움으로까지 번지는 모양새예요.
파이낸셜타임스 보도로 알려진 얘긴데, 틱톡 모회사 바이트댄스가 지금 초대형 AI 모델을 사전학습시키고 있대요. 규모가 최대 10조 파라미터에 달할 수 있다고 하니, 지금 중국에서 공개된 모델 중 가장 큰 문샷 AI의 키미 K3보다도 세 배가량 큰 셈이에요 🇨🇳. 목표는 명확해요, 앤트로픽의 최상위 모델급인 '미토스'를 따라잡는 거예요. 미토스는 앤트로픽의 오퍼스 위에 있는 프런티어 모델 라인으로, 에이전트형 코딩이랑 추론, 사이버보안 능력이 특히 강하다는 평가를 받고 있죠.
근데 사실 파라미터 숫자만 크다고 다 되는 건 아니잖아요. 사전학습은 보통 3~6개월씩 걸리는 과정이라, 이 모델이 실제로 세상에 나오기까진 아직 갈 길이 멀어요. 게다가 바이트댄스 창업자 장이밍이 팀에게 단기 경쟁에 매몰되지 말고 독자적으로 세계 수준의 모델을 만드는 데 집중하라고 주문했다는 얘기도 나와요. 말은 쉬운데, 실제로 밀어붙이려면 시간이랑 컴퓨팅 자원이 어마어마하게 필요하겠죠.
가장 큰 변수는 역시 미국의 첨단 GPU 수출 통제예요. 워싱턴이 고성능 GPU의 중국 직수출을 계속 막고 있는 상황이라, 10조 파라미터급 모델을 학습시키려는 바이트댄스 입장에선 이게 진짜 큰 걸림돌일 거예요. 저는 이 부분이 이번 소식에서 제일 흥미로운 지점이라고 생각해요. 칩은 부족한데 모델 크기는 계속 키우려 하니, 결국 아키텍처 효율화나 대체 칩 확보 쪽으로 더 창의적인 시도가 나올 수밖에 없거든요.
솔직히 최근 몇 달 사이 중국 AI 업체들 움직임을 보면, 오픈라우터 랭킹 톱5가 전부 중국산으로 채워졌다거나 알리바바가 큐원3.8-맥스를 통째로 오픈소스로 풀어버린 것처럼, 몸집이든 개방성이든 어떻게든 존재감을 키우려는 흐름이 뚜렷했어요. 바이트댄스의 이번 초대형 모델 학습도 그 연장선 같아요. 다만 이번엔 오픈소스가 아니라 앤트로픽 같은 서구 프런티어 랩을 정면으로 겨냥했다는 점이 좀 다르죠 ⚡.
문제는 이 모델이 실제로 얼마나 잘 작동할지, 그리고 언제쯤 세상에 공개될지는 아직 아무도 몰라요. 파라미터 수만 놓고 경쟁하는 시대는 어느 정도 지났다는 얘기도 많은데, 바이트댄스는 왜 다시 이 길을 택했을까요.
출처