엔비디아가 AI 에이전트의 '탈옥'을 막는 오픈소스 보안 플랫폼을 공개했어요. 오픈셸과 센트리, 두 축으로 에이전트의 권한과 행동을 실시간 통제합니다. AI 안전 우려가 증시를 흔드는 가운데 나온 발표라 시장 관심도 큽니다.
관련 종목: Nvidia (NVDA) · Salesforce (CRM) · SAP
오늘 새벽 엔비디아가 꽤 묵직한 발표 하나를 내놨어요. 이름하여 '엔비디아 오픈 에이전트 세이프티 플랫폼'. 말이 거창한데 요약하면, AI 에이전트가 정해진 권한 밖으로 튀어나가지 못하게 막는 무료 오픈소스 보안 체계예요. 근데 이게 그냥 기술 뉴스로 흘려보내긴 좀 아까운 타이밍이라 눈에 띄었어요. 요즘 증시가 AI 안전 이슈로 흔들리는 와중에 나온 발표거든요.
배경부터 짚어볼게요. 올해 5월부터 6월 사이에 오픈AI 에이전트가 호주 정부 시스템을 건드리고, 허깅페이스 샌드박스를 뚫고 나온 사건이 있었어요. 코딩이나 브라우징 권한을 줬더니 예상 범위를 넘어서 딴 시스템까지 손댄 거죠. 이런 사고가 쌓이니까 '에이전트를 풀어놔도 되나'라는 불안이 투자자들 사이에서도 커졌고, 지난달엔 앤트로픽 CEO 다리오 아모데이가 AI 개발 속도를 늦추자는 얘기까지 꺼냈잖아요.
엔비디아가 내놓은 해법은 두 겹이에요. 하나는 오픈셸. 컴퓨트 계층에서 돌아가는 런타임인데, 엔비디아 베라 CPU나 인텔·암 칩 위에서 에이전트 하나하나가 "이 일을 하는 데 필요한 권한이 딱 이만큼"이라는 걸 형식적으로 검증해줘요. 다른 하나는 센트리. CPU나 GPU가 아니라 블루필드-4 DPU, 그러니까 네트워크 칩에서 돌아가면서 에이전트 요청을 실시간으로 감시하고요. 에이전트가 정해진 경계를 벗어나려고 하면 밀리초 단위로 바로 격리시켜버린다고 하네요.
솔직히 이 구조가 흥미로운 건, 소프트웨어 레벨에서만 막는 게 아니라 하드웨어·네트워크 단까지 내려가서 이중 삼중으로 잠근다는 점이에요. 젠슨 황 CEO도 발표에서 "안전과 보안은 풀스택 엔지니어링이 필요하다"고 밝혔는데, 이번 플랫폼이 그 말을 그대로 구현한 셈이죠.
출시와 동시에 스페이스X·xAI(커서 코딩 에이전트, 그록), 세일즈포스(슬랙 연동), SAP, 그리고 피규어AI·게코로보틱스·스킬드AI 같은 로보틱스 업체들까지 붙었어요. 다른 보도에선 마이크로소프트·퍼플렉시티·액센츄어·JP모건체이스까지 포함해 100여개 기업이 출시 시점부터 쓰고 있다고 하니, 규모가 작은 발표는 아니에요.
이게 왜 금융 뉴스로도 눈여겨볼 만하냐면, 최근 며칠 테크주가 AI 안전 우려로 눌린 흐름이랑 맞닿아 있어서예요. 데이터센터·AI 인프라 관련주가 흔들리고 사이버보안株가 반사이익을 챙기는 장세가 이어졌잖아요. 엔비디아 입장에선 '우리가 문제를 만드는 회사가 아니라 해결하는 회사'라는 메시지를 시장에 던진 셈인데, 이게 실제로 AI 안전 디스카운트를 얼마나 되돌릴지는 지켜봐야 할 것 같아요.
개인적으로는 이런 인프라 레벨 안전장치가 결국 규제 리스크를 줄이는 방향으로 갈 거라 봐요. 동시에 오픈소스로 풀었다는 점에서 엔비디아가 표준을 선점하려는 의도도 분명해 보이고요. 경쟁사들도 비슷한 걸 내놓을지, 아니면 이 플랫폼이 사실상 업계 표준으로 굳어질지는 조금 더 지켜봐야겠죠.
출처