앤스로픽이 수정 제출서류에서 재귀적 자기개선 경고를 더 키웠어요. 내부 임계점에 곧 닿을 수 있지만 현재 모델은 아직이라고 해요. 사람이 개입하는 구조를 지키려 RSP 개정도 검토 중이에요.
앤스로픽 IPO 이야기는 계속 이어지고 있는데, 이번엔 결이 좀 달라요. 11월 2일 테크크런치가 전한 보도에 따르면, 앤스로픽이 갱신한 규제 제출 서류에서 "AI 지원 연구가 극적으로 빨라지는 내부 임계점에 곧 도달할 수 있다"고 경고했어요. 이른바 재귀적 자기개선(recursive self-improvement)이라고 부르는 개념이에요 ⚠️ (S-1 후속)
서류에 뭐가 달라졌나
일부 매체는 10월 26일 원본에 없던 문구가 수정본에 추가됐다고 전했어요. 핵심은 두 가지예요. 첫째라기보다는 먼저, 현재 앤스로픽 모델 중 어느 것도 그 임계점을 넘지 않았다고 분명히 적었다는 점이에요. 그리고 사람이 계속 연구 과정에 관여하도록 책임 있는 확장 정책(RSP)을 업데이트하는 것도 검토 중이라고 해요.
사실 6월에 앤스로픽 연구소가 비슷한 글을 냈고, 당시 머지되는 코드의 80%를 Claude가 쓴다는 수치도 나왔어요. 그 뒤 몇 달 사이에 '언젠가'가 '곧'으로 바뀐 셈이죠 📈
이게 왜 신경 쓰이냐면
솔직히 IPO 서류에 이런 문장을 넣는 건 투자자 보호용 위험 고지라는 성격이 커요. 그래도 회사가 스스로 "곧 닿을 수 있다"고 쓴 건 가볍게 넘기기 어려워요. 비판하는 쪽은 전략적 마케팅이라고 하고, 걱정하는 쪽은 실제 신호라고 보죠.
개인적으로는 문구보다 행동이 더 중요하다고 생각해요. RSP를 실제로 어떻게 고치는지, 그리고 다른 연구소들이 비슷한 기준을 내놓는지 봐야 판단이 설 것 같아요. 같은 날 OpenAI와 앤스로픽이 미국 중간선거용 모니터링 팀을 꾸렸다는 소식도 있었는데, 이 회사들이 이제 정책 리스크를 직접 관리하는 쪽으로 움직이는 건 분명해 보여요 🤖
임계점이라는 게 누가 어떻게 재는지는 아직 밝혀지지 않았어요. 그 기준이 공개될 때가 진짜 이야기의 시작 아닐까 싶어요.
출처