앤스로픽이 클로드가 자기 다음 버전 개발에 직접 참여한다고 목요일 공개했어요. 2월 0%였던 클로드 주도 R&D 비중이 8월엔 26%까지 올랐고, 전체 작업의 90%는 클로드와 협업으로 진행돼요. 사람 손을 완전히 떠난 건 아니지만, 재귀적 자기개선이 이론이 아니라 현실이 되고 있다는 신호예요.
앤스로픽이 지난 목요일(9월 17일), 꽤 묵직한 발표를 하나 내놨어요. 자사의 AI 모델 클로드🤖가 '다음 버전의 클로드'를 만드는 과정에 실제로 참여하고 있다는 내용인데요. 그냥 립서비스가 아니라 숫자까지 붙였어요.
회사 설명에 따르면 올해 2월만 해도 클로드가 주도하는 연구개발(R&D) 비중은 0%였대요. 그런데 8개월 만인 8월 기준으로 이 수치가 26%까지 올라갔다고 해요. 더 놀라운 건 전체 R&D 작업의 90%가 어떤 식으로든 클로드와의 '협업'으로 이뤄지고 있다는 부분이고요. 8월 한 달 동안 연구와 엔지니어링 작업을 수행한 에이전트 수는 약 3만 개에 달했다고 하네요. 📈
여기서 '주도'라는 표현이 좀 눈에 띄는데, 사람이 높은 수준의 프롬프트만 던지면 클로드가 대부분의 작업을 엔드투엔드로 끝낸다는 뜻이에요. 물론 아직은 사람의 감독 아래에서 돌아가는 구조라서, 완전 자율은 아니라고 앤스로픽 스스로도 선을 그었어요. 큰 덩어리의 작업을 사람의 밀착 지도 아래 수행한다는 표현을 썼더라고요.
근데 솔직히 이 발표에서 진짜 흥미로운 지점은 따로 있어요. 바로 앤스로픽이 이걸 자랑으로만 포장하지 않고, 동시에 경고도 같이 냈다는 거예요. ⚠️ 모델이 스스로의 개발을 가속하기 시작하면 시스템이 사람 입장에서 이해하거나 통제하기 더 어려워질 수 있다고 직접 밝혔거든요. 그러면서 다른 AI 랩들에게도 재귀적 자기개선 진행 상황을 공개적으로 측정하고 공유하자고 제안했어요.
사실 이 타이밍도 묘해요. 다리오 아모데이가 AI 개발 속도를 늦추자는 페이싱 제안을 던진 지 얼마 안 된 시점에, 같은 회사가 우리 모델이 우리 모델을 만들고 있다는 소식을 내놓은 거니까요. 감속을 이야기하면서 동시에 가속의 증거를 보여준 셈이랄까요.
저는 개인적으로 이 26%라는 숫자보다, 2월에서 8월 사이에 0%에서 26%로 뛴 기울기가 더 무섭게 느껴지더라고요. 이 속도가 유지된다면 1년, 2년 뒤엔 어디까지 갈지 가늠이 잘 안 되거든요. 🔬 그리고 또 하나, 이런 수치를 업계에서 처음으로 공개한 곳이 안전 문제에 가장 목소리를 높여온 앤스로픽이라는 점도 아이러니하다면 아이러니고요.
물론 반대로 생각하면 이렇게 투명하게 숫자를 까발린 덕분에 우리가 재귀적 자기개선이라는 추상적인 개념을 조금 더 구체적으로 들여다볼 수 있게 된 것도 사실이에요. 다른 랩들도 이 제안을 받아서 각자의 숫자를 공개하기 시작하면, 업계 전체의 개발 속도를 가늠하는 공통의 잣대가 생길 수도 있겠죠.
클로드가 클로드를 만드는 세상, 여러분은 어떻게 보세요.
출처