오픈AI가 기업 고객 대상으로 '프라이빗 세이프티 프로세싱' 시범 운영을 시작했어요. 대화 내용은 열람하지 않으면서 오남용 패턴만 신호로 잡아내는 방식이에요. 9월 정식 공개를 앞두고 앤트로픽과의 엔터프라이즈 안전 경쟁 구도도 주목받고 있어요.
오픈AI가 최근 허깅페이스發 보안사고로 RL 훈련을 2주간 멈췄다는 소식, 며칠 전에 전해드렸었잖아요. 근데 그 후폭풍이 여기서 끝나지 않았습니다. 오픈AI가 이번엔 '프라이빗 세이프티 프로세싱(Private Safety Processing)'이라는 새로운 안전 시스템을 일부 기업 고객 대상으로 테스트하기 시작했다고 블룸버그와 액시오스가 8월 19일 나란히 보도했어요. 🔒
이 시스템의 핵심은 '내용은 안 보고 신호만 본다'는 거예요. 오픈AI 직원을 포함해 그 누구도 사용자의 실제 프롬프트나 응답 내용에 접근하지 못하도록 하면서, 동시에 여러 상호작용에 걸친 패턴을 분석해서 위험한 행동이나 정렬 이탈(misaligned) 신호를 잡아낸다는 거죠. 쉽게 말하면 '이 대화가 위험해 보인다'는 신호는 오픈AI로 전달되지만, 그 신호를 만든 원본 텍스트 자체는 절대 넘어가지 않는 구조예요.
이게 왜 중요하냐면, 지금까지 제로 데이터 리텐션(Zero Data Retention, ZDR)을 약속한 API 고객들에게는 오픈AI가 프롬프트나 응답을 아예 저장하지 않았거든요. 근데 그러면 안전 모니터링을 하기가 어렵잖아요. 데이터를 안 남기니까요. 오픈AI는 이 딜레마를 '내용은 안 보이게, 신호만 뽑아내는' 방식으로 풀어보겠다는 거예요. 고객 데이터는 고객이 직접 관리하는 인프라에 두거나, 오픈AI가 저장하더라도 암호화 키는 고객이 쥐고 있는 방식도 지원한다고 하고요.
타이밍이 절묘한데요, 이게 단순 기술 발표가 아니라 최근 잇따른 사고들, 그러니까 오픈AI 자체의 '아스트라(Astra)' 일시중단이나 허깅페이스 침해사고 이후 기업 고객들이 느끼는 불안감에 대한 답변 성격이 강해요. 사실 기업 입장에서는 'AI가 우리 데이터를 학습하거나 유출하지 않을까'라는 걱정과 'AI가 위험한 짓을 하는지 누군가는 감시해야 하지 않을까'라는 걱정이 동시에 있거든요. 지금까지는 이 둘이 서로 상충하는 요구사항이라 하나를 포기해야 했어요.
흥미로운 건 경쟁사 비교 구도예요. 액시오스 보도에 따르면 앤트로픽의 현재 안전 관행은 더 높은 레이트 리밋(요청 한도)을 받으려면 데이터