챗GPT 발명자 출신 디오고 알메이다가 LLM이 아닌 새 AI 모델 '제브'를 공개했어요. 버셀은 응답 속도가 최대 18배 빨라졌고, 브라이오AI는 비용을 최대 20배 줄였어요. 텍스트 생성 없이 확률만 내놓는 방식이 자동화 시장의 판을 바꿀지 주목돼요.
근데 이번 소식은 좀 신선했어요. 챗GPT 개발에 참여했고 RLHF, 그러니까 인간 피드백 기반 강화학습을 발명한 디오고 알메이다가 만든 스타트업 타입세이프AI가 제브(Jev)라는 새 AI 모델을 공개했는데, 이게 우리가 아는 LLM이랑 완전히 다른 물건이에요. 🚀
일단 제브는 텍스트를 생성하지 않아요. 대신 미리 정의된 선택지에 대해 보정된 확률값을 내놓는 구조예요. 예를 들면 이 이메일이 스팸일 확률은 87%, 이런 식으로요. 알메이다는 이걸 보정된 결정으로부터의 강화학습이라고 부르는데, 학습 데이터도 전부 합성 데이터만 쓴다고 해요. 알메이다 본인 말로는 지난 4년간 인간의 언어를 최적화하는 데 엄청 능숙해졌지만, 그게 자동화에는 별로 쓸모가 없다는 거예요. 컴퓨터는 사람 말이랑 다른 언어를 쓴다는 거죠.
이 접근의 장점은 명확해요. 출력값이 미리 정해진 선택지 안에서만 나오니까 환각 자체가 구조적으로 불가능하고, 처리 속도도 훨씬 빠르고, 비용도 수백만 토큰이 아니라 수십억 토큰 단위로 계산될 만큼 저렴하대요. 실제 사례를 보면 꽤 인상적이에요. 버셀의 소프트웨어 엔지니어 프라닛 샤르마는 명령어 안전성 분류 작업에서 오픈AI의 루나5.6 모델을 제브로 교체했더니 결과가 5배에서 18배 더 빠르게 나왔고 정확도까지 더 좋아졌다고 밝혔어요. 브라이오AI의 CTO 니킬 무드홀카르도 비즈니스 이메일 분류 작업에서 제미나이 대비 10배에서 20배 저렴하면서 실제 확률 점수까지 얻을 수 있었다고 전했고요. 💯
수요도 예상보다 훨씬 뜨거웠나 봐요. 공개 직후에 API 접근을 일시적으로 제한해야 했을 정도라니까요. 타입세이프AI는 이미 지난주에 4천만 달러 규모의 시드 투자를 받으며 스텔스 모드에서 벗어났는데, 개발자 커뮤니티 반응까지 겹치면서 관심이 확 몰린 모양이에요.
사실 이 모델이 노리는 자리는 챗봇이 아니라 소프트웨어 자동화 쪽이에요. 분류, 라우팅, 안전성 체크처럼 딱 떨어지는 판단이 필요한 작업에서 굳이 비싸고 느린 범용 LLM을 쓸 필요가 없다는 문제의식이거든요. 개인적으로 이 부분이 꽤 공감돼요. 요즘 많은 서비스들이 AI 좀 넣었다면서 실제로는 단순 분류 작업에 거대 LLM을 갖다 쓰고 있잖아요. 비용도 비용이지만 지연시간 문제도 무시 못 하고요.
물론 한계도 있어요. 브라이오AI 사례처럼 정확도 면에서는 기존 모델보다 살짝 떨어지는 경우도 있었고, 자연어 생성 자체가 필요한 작업에는 애초에 맞지 않는 도구고요. 그래도 모든 AI가 텍스트를 뱉어낼 필요는 없다는 메시지 자체는 꽤 신선하게 느껴져요.
오픈AI 출신 연구자가 LLM 패러다임 바깥에서 새로운 걸 만들어냈다는 것 자체가 상징적이에요. 앞으로 이런 비LLM형 특화 모델들이 자동화 시장에서 얼마나 자리를 넓혀갈지 지켜보는 재미가 있을 것 같네요.
출처