앤트로픽이 "AI가 스스로를 만드는 시대"에 도달했다며 글로벌 동시 개발 중단을 제안했어요. 5월 기준 앤트로픽 코드의 80% 이상을 Claude가 작성했고, 엔지니어 생산성은 1년 새 8배 뛰었어요. 다자 동의·검증 메커니즘·정부 참여 세 조건을 전제로, 혼자선 절대 멈추지 않는다고 명시했어요.
근데 솔직히, 이 발표를 처음 봤을 때 좀 황당했어요. AI 개발을 가장 적극적으로 밀어붙이는 회사 중 하나인 앤트로픽이 갑자기 "잠깐, 다 같이 멈추자"는 말을 꺼냈거든요. 6월 4일, 앤트로픽 인스티튜트 리더 Marina Favaro와 Jack Clark이 공동 집필한 "When AI Builds Itself(AI가 스스로를 만들 때)"라는 보고서가 공개됐어요.
핵심 주장은 이래요. AI가 이제 단순한 도구가 아니라, 자신의 개발 속도 자체를 가속하는 주체가 됐다는 것. 증거로 제시한 숫자가 꽤 충격적인데요, 2026년 5월 기준으로 앤트로픽 프로덕션 코드베이스에 병합된 코드의 80% 이상이 Claude가 직접 작성한 거예요. 불과 2025년 2월 이전까지는 한 자릿수 퍼센트였는데, 1년 반 만에 완전히 역전된 거죠. 엔지니어 1인당 하루에 병합하는 코드 양도 2024년 대비 8배 늘었고요.
이 추세가 계속된다면 뭐가 문제냐고요? 앤트로픽은 AI가 AI를 훈련시키고, AI가 AI를 연구하고, 나중엔 AI가 더 나은 AI를 설계하는 "재귀적 자기 개선(recursive self-improvement)" 루프에 진입할 수 있다고 경고해요. 그 임계점을 2028년쯤으로 보는데, 그때쯤엔 인간의 감독 능력이 개발 속도를 따라잡지 못할 수 있다는 거예요.
여기서 재밌는 게, 앤트로픽이 제안하는 게 "우리만 멈추겠다"가 아니에요. 세 가지 조건이 모두 충족돼야 해요. 첫째, 여러 나라의 주요 AI 연구소들이 동시에 동일한 조건 하에 동의해야 해요. 둘째, 중단이 실제로 지켜지는지 검증할 수 있는 메커니즘이 필요해요. 셋째, 정부와 시민사회가 의미 있는 방식으로 참여해야 하고요. 어느 하나라도 빠지면 앤트로픽은 혼자서는 절대 멈추지 않겠다고 명시했어요.
이 제안의 타이밍이 의미심장한 이유가 있어요. 앤트로픽이 보고서를 낸 게 6월 4일인데, 비밀리에 IPO 신청서를 제출한 게 6월 1일이었거든요. 조 단위 기업가치를 공개 시장에서 받으려는 회사가 동시에 "우리 좀 멈추자"고 말하는 거잖아요 . Goldman Sachs와 Morgan Stanley 주관사 입장에서 이게 어떻게 들렸을지 꽤 궁금하기도 해요.
사실 이 제안이 실제로 실현될 거라고는 생각하지 않아요. xAI는 당장 반응이 없고, OpenAI는 에이전트 전쟁을 선언했고, 메타는 오픈소스로 계속 내달리고 있거든요. 앤트로픽이 내건 "복수 국가·복수 연구소 동시 동의"라는 조건은 사실상 불가능에 가까운 조건이에요. 글로벌 군비 경쟁에서 다자 군축 협약이 얼마나 어려운지 생각해보면 알 수 있죠.
그럼에도 이 발표가 중요한 이유는 하나예요. 프론티어 AI를 실제로 만들고 있는 회사가 "우리가 만드는 게 우리 통제를 벗어날 수 있다"고 공식적으로 인정한 거라는 점이에요. 마침 오늘(6월 15일)부터 G7 에비앙 정상회의가 시작되는데, 샘 올트먼·다리오 아모데이·데미스 하사비스가 나란히 참석한다는 사실과 맞물려 꽤 묵직한 신호로 읽혀요.
AI가 AI를 만드는 시대의 감독자는 결국 누가 돼야 할까요? 지금 당장 아무도 정답을 모른다는 게, 이 제안이 소름 돋는 진짜 이유인 것 같아요.
출처