오픈AI 아스트라, 속마음이 안 보인다
치명적 사이버 등급 받은 그 모델, 추론 과정도 숨긴다
마마우스워리어· 2026년 9월 3일· 오픈AI, 아스트라, AI안전, 체인오브소트, AI투명성· 0
[후속] 사이버 등급은 '치명적'인데 속마음은 안 보인다 — 오픈AI 아스트라, '불투명 순환' 추론에 안전 전문가들 경고
루프 안에서 생각한다
내부 상태를 반복 갱신하는 '불투명 순환' 방식이에요.
레드우드리서치 CEO 벅 슐레게리스
"오픈AI가 이 기법을 더 밀어붙이면 체인 오브 소트 모니터링을 완전히 파괴할 수 있다"
— 벅 슐레게리스
치명적 등급 + 불투명 순환
같은 모델을 둘러싼 성능·투명성 이슈가 사흘 새 겹쳤어요.
오픈AI 수석과학자 야쿠브 파초키
"체인 오브 소트 모니터링은 우리 현재 연구 프로그램의 핵심 목표다"
— 야쿠브 파초키
업계 전체로 번질 조짐
앤스로픽과 구글 딥마인드도 비슷한 순환 기법을 내부 논의 중이라고 해요. 🤖⚠️ 성능이냐 감시 가능성이냐, 선택의 갈림길이에요.
1 / 8