오픈AI가 GPT-5.6 솔을 최대 14배 빠르게 돌리는 '울트라패스트' 모드를 공개했어요. 초당 750토큰까지 뽑아내는데, 반도체 스타트업 세레브라스와 손잡고 만들었대요. 아직은 소수 고객에게만 열려 있어서, 진짜 승부는 확산 속도에 달려 있어요.
오픈AI가 8월 13일, GPT-5.6 솔을 위한 새로운 처리 모드 '울트라패스트(Ultrafast)'를 공개했어요. 이름 그대로 속도에 몰빵한 기능인데, 숫자를 보면 좀 놀라워요. 초당 최대 750토큰, 기존 표준 처리 대비 최대 14배 빠르다고 하네요. 웬만한 사람이 타이핑하는 속도보다 수십 배는 빠른 셈이죠.
솔직히 지금까지 "실시간처럼 빠른 응답"을 원하면 답은 정해져 있었어요. 더 작고 특화된 모델을 쓰는 것. 파라미터 줄이고 기능도 줄여서 속도를 얻는 트레이드오프였죠. 근데 오픈AI는 이번 발표에서 "이제는 방향이 다르다"고 못 박았어요. 블로그 글에서 이렇게 밝혔더라고요.
"지금까지 실시간 속도를 얻으려면 보통 더 작거나 특화된 모델을 선택해야 했습니다. 울트라패스트는 새로운 방향으로의 진전을 보여줍니다. 초당 더 많은 유용한 작업을 처리하는 것이죠."
즉 모델 크기를 줄이지 않고도 속도만 따로 떼어내겠다는 얘기예요. 이게 가능했던 배경에는 반도체 스타트업 세레브라스와의 협업이 있어요. 세레브라스는 웨이퍼 크기의 초대형 칩으로 추론 속도에서 이름이 알려진 회사인데, 오픈AI가 이 회사의 하드웨어를 끌어다 GPT-5.6 솔의 연산을 최적화한 것으로 보여요.
적용 대상도 눈여겨볼 만해요. 오픈AI가 예시로 든 건 장애 대응, 고객 서비스, 금융시장 분석, 이커머스예요. 전부 "1초라도 늦으면 손해"인 영역들이죠. 장애가 터졌을 때 AI가 즉각 원인을 짚어주거나, 주문 폭주 시간대에 고객 문의를 실시간으로 처리하는 식의 활용을 염두에 둔 것 같아요.
다만 아직은 프리뷰 단계고, 극소수 고객에게만 열려 있어요. 오픈AI는 "용량이 늘어나는 대로" 접근 범위를 넓히겠다고만 밝혔을 뿐, 구체적인 가격이나 정식 출시 일정은 공개하지 않았어요. 사실 이 부분이 좀 아쉬워요. 속도가 아무리 빨라져도 일반 사용자나 개발자가 못 쓰면 의미가 반감되잖아요.
경쟁 구도도 살짝 짚고 가면, 앤트로픽도 클로드용 '패스트 모드'를 이미 운영 중이긴 한데 이번 울트라패스트의 속도에는 못 미친다는 평가가 나와요. 결국 이번 발표는 모델 성능 경쟁에 이어 '누가 더 빨리 답하느냐'는 새로운 전선이 열렸다는 신호로 읽혀요.
개인적으로는 이게 단순 마케팅 수치가 아니라 실제 워크플로우를 바꿀 수 있는 변화라고 봐요. 특히 에이전트가 여러 단계를 연속으로 처리해야 하는 작업에서는, 한 스텝당 걸리는 시간이 누적되면 결과 자체가 느려지거든요. 울트라패스트가 프리뷰를 벗어나 정식 서비스로 넓어질지, 아니면 세레브라스 하드웨어 공급 제약에 발목 잡힐지는 좀 더 지켜봐야 할 것 같아요.
출처