Anthropic이 'AI가 스스로를 개발한다'는 보고서를 발표하며 전 세계적 일시 정지를 촉구했어요. 이미 생산 코드의 80%를 Claude가 작성 중이고, 엔지니어 생산성은 8배나 증가했어요. IPO를 앞두고 업계에 브레이크를 요청하는 역설적 상황이 전 세계 이목을 끌고 있어요.
근데 이 뉴스 처음 봤을 때 솔직히 좀 웃겼어요. AI 안전을 가장 진지하게 이야기하는 회사 중 하나인 Anthropic이, 하필 기업공개(IPO) 준비가 한창인 시점에 전 세계를 향해 "모두 멈춰라"고 외치는 상황이라니요. 아이러니라는 단어가 이렇게 딱 들어맞는 경우도 드물어요.
6월 4일, Anthropic은 "When AI Builds Itself(AI가 스스로 AI를 만들 때)" 라는 제목의 보고서를 Anthropic Institute 명의로 발표했어요. 핵심 메시지는 이래요: 프런티어 AI 모델들이 이미 자기 자신을 개선할 수 있을 만큼 빠르게 발전하고 있고, 그 속도가 인간의 통제 능력을 앞지르기 전에 전 세계가 조율해서 브레이크를 밟아야 한다는 거예요.
보고서에서 가장 충격적인 숫자가 있어요. 2026년 5월 기준으로 Anthropic 생산 시스템에 병합된 코드의 80% 이상을 Claude가 작성했다고 해요. 거기다 Anthropic 엔지니어들이 분기당 출시하는 코드 양이 2021~2025년 대비 무려 8배나 늘었다고 하고요. 단순히 AI가 코딩을 보조하는 수준이 아니라, AI가 실질적으로 AI 개발 자체를 이끌고 있다는 뜻이에요. 🤖
Anthropic 정책 총괄 Jack Clark는 "재귀적 자기 개선(recursive self-improvement)" 이 약 2년 안에 현실화될 수 있다고 경고했어요. 재귀적 자기 개선이란, AI 시스템이 인간의 직접 개입 없이 스스로 후속 버전을 설계·개발하는 능력이에요. 이게 현실화되면 개발 속도는 기하급수적으로 빨라지는데, 인간이 어디까지 통제할 수 있을지 아무도 장담하지 못하는 상황이 오는 거예요.
Anthropic이 제안하는 건 단순히 "천천히 가자"는 말이 아니에요. 가장 앞선 AI 시스템의 개발을 일시적으로 늦추거나 중단할 수 있는, 전 세계가 함께 조율하는 메커니즘을 만들자는 거예요. 사실상 국제 조약이나 규약에 준하는 체제를 구축하자는 제안이에요. 개발사 간의 자율 합의 수준이 아니라요.
물론 비판 목소리도 적지 않아