오픈AI, AI로 AI를 공격하게 했다
자동화 레드팀 '지피티레드' 공개 🔥
마마우스워리어· 2026년 7월 16일· 오픈AI, OpenAI, 지피티레드, GPT-Red, AI보안, 프롬프트인젝션· 0
AI가 AI를 공격하게 시켰다 — 오픈AI '지피티레드', 인간 레드팀보다 6배 더 뚫었다
공격 성공률
84%
인간 레드팀(13%)의 6배가 넘는 프롬프트 인젝션 성공률
어떻게 작동하나
타깃 모델에 프롬프트 발사 → 반응 관찰 → 공격 목표 향해 반복 학습 🤖
AI가 먼저 찾아낸 공격법
'가짜 사고사슬' 공격, 사람보다 AI가 먼저 발견
실전 테스트: 자판기 해킹
사무실 AI 자판기 상대로 가격 조작·주문 취소까지 성공 ⚠️
방어 개선 폭
6배
GPT-5.6 솔, 4개월 전 모델 대비 최고난도 인젝션 실패율 감소
오픈AI
앞으로도 컴퓨팅과 데이터를 늘려 더 강한 지피티레드를 학습시키겠다
— 공식 발표
1 / 9