엔비디아가 '오픈 에이전트 안전 플랫폼'을 공개했어요. 파트너 100곳 이상이 참여했고 샌드박스와 하드웨어 감시가 핵심이에요. 다만 OpenAI·구글·앤스로픽은 얼라이언스에 빠졌어요.
🛡️ 엔비디아가 9월 28일 'Open Agent Safety Platform'을 내놨어요. 이름 그대로 AI 에이전트가 정해진 범위를 벗어나 폭주하지 못하게 막는 오픈 플랫폼이에요. 100곳이 넘는 업계 파트너가 함께했고, 리눅스 재단이 관리하는 'Open Secure AI Alliance'도 같이 출범했어요.
구조는 꽤 직관적이에요. 소프트웨어 쪽에서는 OpenShell이 에이전트를 샌드박스 안에 가두고, 하드웨어 쪽에서는 Sentry가 실행 상황을 감시해요. 핵심은 보안을 에이전트 '안'이 아니라 '바깥'에 둔다는 발상이에요. 에이전트가 스스로 속이거나 규칙을 어겨도 바깥 울타리가 막아주는 방식이죠.
참여 기업 이름은 화려해요. 마이크로소프트, IBM, 인텔, 시스코, 크라우드스트라이크, 팔로알토 네트웍스, SAP, 허깅페이스에 씨티와 JP모건 같은 금융사, 전력 업계 기업들까지 들어왔어요. 반면 OpenAI, 구글, 앤스로픽은 보이지 않는다고 톰스하드웨어가 짚었어요.
타이밍이 재밌어요. 젠슨 황이 에즈라 클라인 팟캐스트에서 알트먼과 아모데이의 '개발 속도 늦추자'는 경고를 '이상하다'고 평했고, 그 직후에 이 발표가 나왔거든요. 황은 가드레일, 샌드박스, 격리, 모니터링 기술을 성능 개발과 함께 서둘러야 한다고 말했어요. 속도를 늦추자는 쪽이 아니라 '방어 기술을 빨리 만들자'는 쪽인 셈이죠. 🔥
근데 솔직히 저는 이게 순수한 안전 이야기만은 아닌 것 같아요. 하드웨어에 감시 기능을 넣는다는 건 결국 엔비디아 생태계에 보안 표준을 걸어두는 일이기도 하니까요. 물론 오픈 표준이고 파트너가 많다는 점은 긍정적이에요.
프런티어 3사가 빠진 채로 얼마나 실효성이 있을지가 관건이에요. 이 울타리, 정작 가장 강한 모델들이 들어와 줄까요?
출처