엔비디아가 2026년 9월 4일 오픈소스 퍼스널 AI 라우터 PAIR 베타(v0.1.1)를 공개했습니다. 게이밍 PC와 맥, DGX 스파크를 mDNS로 찾아 GPU 사용률에 따라 실시간 분산합니다. 에이전트 코드 수정 없이 유휴 하드웨어를 하나의 추론 클러스터로 묶는 게 핵심입니다.
이거 진짜 흥미로운 발표예요. 🤖
9월 4일, 엔비디아가 퍼스널 AI 라우터(PAIR)를 깃허브에 오픈소스로 공개했습니다. 이름 그대로 개인용 AI 추론 요청을 라우팅해주는 도구인데, 컨셉이 단순하면서도 꽤 영리합니다. 같은 집이나 사무실 네트워크 안에 굴러다니는 여러 대의 컴퓨터를 자동으로 찾아서, 하나의 가상 추론 클러스터처럼 묶어주는 거예요.
여기서 '가상 추론 라우터'라는 표현이 좀 낯설 수 있는데, 실제 물리적인 라우터 장비를 새로 사라는 뜻이 아니라 소프트웨어 계층에서 여러 노드를 하나의 엔드포인트처럼 보이게 만들어준다는 의미예요.
근데 이게 왜 필요하냐면요.
요즘 AI 에이전트 여러 개를 동시에 돌리다 보면 로컬 GPU 한 대로는 금방 병목이 걸리잖아요. 옆방에 있는 게이밍 PC나 맥 스튜디오는 놀고 있는데, 지금 쓰는 노트북만 계속 풀로 돌아가는 상황. PAIR는 바로 이 문제를 겨냥합니다. mDNS로 같은 네트워크에 있는 노드들을 발견하고, 각 노드의 준비 상태·엔진 상태·보유 모델·GPU 사용률을 실시간으로 확인해서 지금 제일 여유 있는 곳으로 요청을 넘겨줍니다. 통신 구간은 mTLS로 암호화되고요. ⚡
제일 마음에 드는 부분은 호환성이에요.
앱이나 에이전트 입장에서 PAIR는 그냥 Ollama 호환, OpenAI 호환 프록시 엔드포인트로 보입니다. 그래서 기존에 짜둔 에이전트 하네스나 코드를 하나도 안 고쳐도 돼요. 지원하는 로컬 추론 엔진은 Ollama와 LM Studio 두 가지고, 하드웨어는 지포스 RTX 20 시리즈 이상, RTX PRO 워크스테이션 GPU(튜링 아키텍처 이상), 엔비디아 DGX 스파크, 그리고 애플 M4 이상 실리콘까지 폭넓게 커버합니다. 🚀
근데 목록을 보면 은근히 문턱이 낮아요. RTX 20 시리즈면 2018~2019년에 나온 카드도 포함되는 거고, 서랍 속에서 잠자던 예전 그래픽카드도 어떻게든 써먹을 수 있다는 뜻이죠. 거기다 애플 실리콘까지 챙긴 걸 보면, 엔비디아가 굳이 자기 하드웨어만 고집하지 않고 로컬 AI 생태계 전체를 노리는 것 같기도 합니다.
참고로 DGX 스파크는 엔비디아가 최근 내놓은 손바닥만 한 개인용 AI 슈퍼컴퓨터예요. 이런 전용 고성능 장비부터 몇 년 된 게이밍 그래픽카드까지, 같은 네트워크 안에만 있으면 전부 PAIR 노드 후보가 된다는 게 이 프로젝트의 재미있는 지점이죠.
구조를 그림으로 보면 대충 이런 흐름이에요.
라우팅 판단 자체는 노드가 지금 요청을 받을 준비가 됐는지, Ollama나 LM Studio가 실제로 켜져 있는지, 필요한 모델을 이미 가지고 있는지, 그리고 GPU가 얼마나 바쁜지, 이 네 가지를 실시간으로 종합해서 이뤄집니다. 말 그대로 매 요청마다 네트워크 상태를 다시 체크하는 셈이라, 노드 하나가 꺼지거나 모델을 새로 받는 중이어도 나머지 노드로 자연스럽게 넘어갈 수 있는 구조예요.
솔직히 이런 발상 자체가 완전히 새로운 건 아니에요. 분산 추론이나 로드밸런서 개념은 서버 인프라 쪽에서 이미 흔했으니까요. 근데 그걸 일반 가정이나 소규모 사무실 수준의 게이밍 PC, 맥, DGX 스파크 조합에 맞춰서 서명된 설치파일 하나로 뚝딱 붙일 수 있게 만든 게 포인트인 것 같아요. 개발자가 로컬 클러스터 짜겠다고 쿠버네티스까지 끌어올 필요가 없어진 거죠. 🔥
라이선스도 깔끔합니다.
PAIR는 Apache 2.0 라이선스로 소스 전체가 깃허브에 공개돼 있고, 윈도우·맥OS·리눅스용 서명된 설치파일도 바로 받을 수 있습니다. 지금은 베타(v0.1.1) 단계라 스케줄링 알고리즘이나 노드 발견 안정성 같은 부분은 계속 다듬어질 걸로 보입니다.
이런 도구가 제일 반가운 건 아무래도 홈랩 좋아하는 개발자들이나, 여러 에이전트를 동시에 굴리면서 클라우드 API 비용 부담을 느끼는 소규모 팀일 것 같아요. 사무실에 굴러다니는 구형 워크스테이션이나 개인 맥북, 게이밍 데스크탑까지 전부 하나의 풀로 묶어서 쓸 수 있다면, 굳이 새 클라우드 GPU 인스턴스를 띄우지 않아도 되니까요. 마크테크포스트 같은 매체도 이번 발표를 꽤 비중 있게 다룬 걸 보면, 업계에서도 이 방향성을 흥미롭게 보는 모양이에요.
실제로 얼마나 똑똑하게 분배하느냐가 관건이겠죠. 📊
예를 들어 게이밍 PC는 GPU 사용률이 87%까지 차 있는데 옆방 맥 스튜디오는 23%밖에 안 쓰고 있다면, PAIR가 알아서 맥 쪽으로 요청을 넘기는 식이에요. 말은 쉬운데, 실제 환경에서 지연 시간이나 모델 로딩 시간까지 고려해서 이 판단을 얼마나 정교하게 하느냐가 관건일 겁니다. 베타 딱지를 뗄 때쯤엔 또 어떤 모습으로 바뀌어 있을지, 지켜볼 만한 프로젝트네요. 홈랩 커뮤니티에서 먼저 반응이 올지, 아니면 기업 쪽에서 먼저 써볼지도 궁금하고요.
출처