Anthropic이 'AI가 스스로를 개발한다'는 보고서를 발표하며 전 세계적 일시 정지를 촉구했어요. 이미 생산 코드의 80%를 Claude가 작성 중이고, 엔지니어 생산성은 8배나 증가했어요. IPO를 앞두고 업계에 브레이크를 요청하는 역설적 상황이 전 세계 이목을 끌고 있어요.
근데 이 뉴스 처음 봤을 때 솔직히 좀 웃겼어요. AI 안전을 가장 진지하게 이야기하는 회사 중 하나인 Anthropic이, 하필 기업공개(IPO) 준비가 한창인 시점에 전 세계를 향해 "모두 멈춰라"고 외치는 상황이라니요. 아이러니라는 단어가 이렇게 딱 들어맞는 경우도 드물어요.
6월 4일, Anthropic은 "When AI Builds Itself(AI가 스스로 AI를 만들 때)" 라는 제목의 보고서를 Anthropic Institute 명의로 발표했어요. 핵심 메시지는 이래요: 프런티어 AI 모델들이 이미 자기 자신을 개선할 수 있을 만큼 빠르게 발전하고 있고, 그 속도가 인간의 통제 능력을 앞지르기 전에 전 세계가 조율해서 브레이크를 밟아야 한다는 거예요.
보고서에서 가장 충격적인 숫자가 있어요. 2026년 5월 기준으로 Anthropic 생산 시스템에 병합된 코드의 80% 이상을 Claude가 작성했다고 해요. 거기다 Anthropic 엔지니어들이 분기당 출시하는 코드 양이 2021~2025년 대비 무려 8배나 늘었다고 하고요. 단순히 AI가 코딩을 보조하는 수준이 아니라, AI가 실질적으로 AI 개발 자체를 이끌고 있다는 뜻이에요. 🤖
Anthropic 정책 총괄 Jack Clark는 "재귀적 자기 개선(recursive self-improvement)" 이 약 2년 안에 현실화될 수 있다고 경고했어요. 재귀적 자기 개선이란, AI 시스템이 인간의 직접 개입 없이 스스로 후속 버전을 설계·개발하는 능력이에요. 이게 현실화되면 개발 속도는 기하급수적으로 빨라지는데, 인간이 어디까지 통제할 수 있을지 아무도 장담하지 못하는 상황이 오는 거예요.
Anthropic이 제안하는 건 단순히 "천천히 가자"는 말이 아니에요. 가장 앞선 AI 시스템의 개발을 일시적으로 늦추거나 중단할 수 있는, 전 세계가 함께 조율하는 메커니즘을 만들자는 거예요. 사실상 국제 조약이나 규약에 준하는 체제를 구축하자는 제안이에요. 개발사 간의 자율 합의 수준이 아니라요.
물론 비판 목소리도 적지 않아요. 기술 분석가 Rob Enderle는 "전 세계 분산 컴퓨팅 자원을 추적하는 건 핵 시설보다 훨씬 어렵다"면서 사실상 집행이 불가능하다고 봤어요. Constellation Research의 Holger Mueller는 한발 더 나아가 "현재 상태를 동결해서 경쟁 우위를 유지하려는 전략 아닌가요"라는 의혹도 제기했고요. 재귀적 자기 개선 자체가 아직 이론적 단계이고 실제 증거가 없다는 점도 짚었어요.
타이밍이 정말 묘해요. Anthropic은 불과 며칠 전인 6월 1일에 SEC에 비공개 S-1을 제출하며 IPO 절차에 돌입했거든요. 기업가치가 약 9,650억 달러, 연간 매출 달리기로 470억 달러에 달하는 회사가, 동시에 업계 전체에 브레이크를 요청하는 건 어떻게 봐도 단순하게 읽히지 않아요. 📈
사실 진의가 어디 있든, 80%라는 숫자 자체는 역사적이에요. AI가 단순히 개발 도구를 넘어서, AI 자신의 다음 세대를 만드는 주체가 됐다는 뜻이거든요. 그리고 AI가 AI를 만드는 시대에 국제 사회가 어떤 합의를 이끌어낼 수 있을지, 원자력 비확산 조약도 수십 년이 걸렸고 아직도 완벽하지 않다는 역사를 생각하면 낙관하기 어려워요. 어떻게 흘러갈지는 모르겠지만, 이 보고서가 던진 질문은 지금 우리가 진지하게 마주해야 할 것들이에요.
출처