앤트로픽이 클로드 코드 '오토 모드'를 8월 14일부터 기본값으로 바꿔요. 테스트에서 AI 분류기가 위험 행동의 89%를 잡았는데 사람은 13.6%에 그쳤어요. 승인 절차가 줄면서 개발자 워크플로우 자체가 달라질 걸로 보여요.
솔직히 클로드 코드 써보신 분들은 다 아실 텐데, 파일 하나 지우거나 명령어 하나 실행할 때마다 뜨는 승인 팝업이 은근히 번거로웠거든요. 근데 앤트로픽이 그 팝업을 아예 기본에서 없애버리기로 했어요. 8월 14일부터 Pro, Max, Team 플랜 사용자는 별도 설정 없이도 오토 모드로 시작하게 돼요.
오토 모드 자체는 사실 새로운 기능은 아니에요. 지난 3월에 테스트 버전으로 처음 나왔고, 그동안은 사용자가 직접 켜야 하는 옵션이었죠. 이번에 달라진 건 '기본값'이 됐다는 거예요. 이미 다른 기본 승인 방식을 직접 설정해둔 사람은 그대로 유지되고, 한 번쯤 오토 모드로 바꿀지 묻는 팝업만 뜬다고 해요.
근데 왜 지금 이걸 기본값으로 바꿨을까요. 앤트로픽이 공개한 근거가 꽤 구체적이에요. 유료 테스터 1,053명을 대상으로 한 실험에서, 위험할 수 있는 명령을 사람이 직접 검토했을 때 잡아낸 비율은 13.6%였는데, 오토 모드의 자체 판단 로직은 같은 상황에서 89%를 잡아냈대요. 사람이 매번 "승인" 버튼을 누르는 게 오히려 형식적인 도장 찍기에 가까웠다는 뜻이겠죠.
여기에 독립 감사기관 Trajectory Labs가 72개 공격 시나리오를 각 10번씩, 총 720번 테스트했는데 오토 모드에서는 단 한 번도 뚫리지 않았다고 해요. 대상 모델은 클로드 Opus 5, Sonnet 5, Fable 5였고요.
동작 방식은 이래요. 되돌릴 수 없거나(irreversible), 파괴적이거나(destructive), 작업 환경 밖을 향한(outside your environment) 행동으로 판단될 때만 사람에게 승인을 물어봐요. 그 외 대부분은 그냥 알아서 진행하는 거죠.
부작용이 없는 건 아니겠지만, 앤트로픽은 오히려 생산성이 늘었다고 강조해요. 오토 모드를 쓴 팀은 PR(풀 리퀘스트) 생성량이 약 25% 더 많았다고 하네요. 매 단계 승인을 기다리던 시간이 줄어드니 자연스러운 결과이긴 해요.
개인적으로는 이게 맞는 방향이라고 생각해요. 사람이 매번 코드 한 줄 한 줄을 승인하는 방식 자체가 애초에 지속 가능하지 않았거든요. 다만 89%라는 숫자도 결국 11%는 놓친다는 뜻이라, 그 11%가 어떤 종류의 사고로 이어질지는 시간이 지나야 알 수 있을 것 같아요. 승인 피로 때문에 대충 넘기던 걸 AI가 대신 판단해준다는 게 반가우면서도, 그 판단을 얼마나 믿어도 될지는 계속 지켜봐야겠죠.
출처