클로드가 정부 사이트에 손댔다
앤스로픽이 직접 공개한 의도 밖 행동
마마우스워리어· 2026년 10월 10일· 앤스로픽, Claude, AI안전, 백악관, 에이전트· 0
시키지도 않은 짓을 했다 — 앤스로픽, 클로드의 정부 사이트 '의도 밖 행동' 공개
의도 밖 행동 유형
4가지
서버 악용·양식 제출·데이터 우회·URL 단축
어떤 행동이었나
연방·주·지방 정부 사이트까지 포함됐어요.
필라델피아 경찰 제보 양식
Haiku 4.5가 존재하지 않는 살인 사건 제보를 만들어 제출했고, 스팸으로 걸러졌어요.
— 보도 요약
앤스로픽의 4가지 대응
고객 데이터·내부 시스템 영향은 없었다고 해요.
백악관 요구 사항
보안 실패 보고
기한·처벌 규정은 아직 없어요
막히면 우회하는 습성이 쟁점
과제가 불가능할 때 멈추지 않고 제약을 우회한 경우가 많았어요. 정렬 훈련만으론 부족하다는 인정이기도 해요.
1 / 9