앤스로픽이 액센츄어를 첫 내장형 평가자로 선택해 클로드 안전성 검증을 맡겼어요. 두 회사가 5년간 각각 10억 달러씩, 총 20억 달러를 이 작업에 투자해요. AI 안전 평가를 외부 컨설팅사에 맡기는 방식이 업계 표준이 될지 주목돼요.
솔직히 이 조합은 좀 의외였어요. 9월 18일, 앤스로픽이 클로드 모델의 안전성을 검증할 내장형 평가자로 액센츄어를 선택했다고 발표했거든요. 다들 METR이나 레드우드 리서치 같은 AI 안전 전문 연구기관이 이 역할을 맡을 거라 예상했는데, 뜬금없이 대형 컨설팅사가 등장한 거죠. 🤖
이번 발표의 핵심은 액센츄어 직원들이 앤스로픽 사무실에 상주하면서 클로드 모델을 레드팀하고, 정렬성 평가를 진행하고, 안전장치를 테스트한다는 거예요. 실제로 앤스로픽 내부 리스크 평가팀과 거의 비슷한 수준의 배지, 노트북, 내부 도구 접근 권한까지 받는다고 해요. 이 작업을 맡을 실무진은 액센츄어가 올 1월에 인수한 AI 전문 조직 패컬티 소속이에요.
돈 얘기도 만만치 않아요. 앤스로픽과 액센츄어가 각각 향후 5년간 최소 10억 달러, 합쳐서 20억 달러 이상을 이 프로젝트에 투입하기로 했거든요. 이 소식이 나오자마자 액센츄어 주가가 시간외 거래에서 8% 뛰었다고 하니, 시장도 꽤 놀란 눈치예요. 📈
사실 이 아이디어의 뿌리는 지난주 다리오 아모데이 앤스로픽 CEO가 내놓은 정책 에세이예요. "프론티어의 속도를 조절해야 한다"는 제목으로, AI 역량이 너무 빠르게 발전해서 안전성 검토가 따라가지 못하고 있다는 문제의식을 담고 있었어요. 그 글에서 아모데이는 독립적인 제3자 평가자를 AI 랩 내부에 배치하자는 구체적인 제안을 했었는데, 이번 액센츄어 파트너십이 그걸 처음으로 실행에 옮긴 사례인 셈이죠.
근데 반응이 다 좋은 건 아니에요. 일부에서는 이런 방식이 결국 AI 기업이 자기가 자기를 검증하는 셀프 감독 시스템 아니냐는 비판도 나오고 있어요. 액센츄어가 딥러닝 연구 자체에 대한 전문성은 깊지 않다는 지적도 있고요. 앤스로픽 쪽은 오히려 그 점을 장점으로 내세웠어요. 학술적 연구보다 실제 기업·정부 배포 경험이 훨씬 풍부하다는 논리예요.
개인적으로는 이 파트너십이 성공하냐 마냐를 떠나서 방향성 자체는 나쁘지 않다고 봐요. 다만 이게 진짜 독립적인 감시가 되려면 액센츄어가 앤스로픽 매출에 의존하는 구조가 되지 않아야 할 텐데, 그 부분은 계속 지켜봐야 할 것 같아요. 비독점