구글·오픈AI·앤스로픽이 민간 AI 안전기구 SAFA를 만들려고 준비 중이에요. CEO 후보로 백악관 AI 자문을 지낸 스리람 크리슈난을 점찍었어요. 정부 규제 없이 업계 스스로 표준을 세우겠다는 구상이라 논란도 커요.
이거 좀 아이러니한 얘기예요. AI 빅3로 불리는 구글, 오픈AI, 앤스로픽이 자기들만의 안전 규제기구를 만들겠다고 나섰는데, 그 수장 후보로 점찍은 사람이 하필 "워싱턴이 AI 규제기구를 만들 필요 없다"고 주장해온 인물이거든요.
이름은 프런티어 AI 스탠더즈 에이전시, 줄여서 SAFA(Standards Authority for Frontier AI)가 유력해요. 월가의 자율규제기구 FINRA를 모델로 삼았다고 해요. 정부가 직접 규제하는 대신, 업계가 스스로 표준을 만들고 서로를 검증하는 구조죠. 더 인포메이션 보도에 따르면 논의는 2026년 7월 구글 딥마인드 회장 데미스 하사비스가 먼저 물꼬를 텄고, 9월 15일엔 오픈AI 최고글로벌담당책임자 크리스 르헤인이 이 협력 관계를 공개적으로 확인했어요. 그리고 오늘, CEO 후보로 스리람 크리슈난이 물망에 올랐다는 보도가 나왔어요.
크리슈난이 누구냐면요, 2025년 1월부터 2026년 6월까지 트럼프 2기 행정부에서 백악관 AI 정책 자문으로 일했던 인물이에요. 그 전엔 a16z 파트너였고요. 근데 재임 기간 내내 "연방정부 차원의 AI 규제기구는 불필요하다"는 입장을 강하게 밀어붙인 걸로 유명해요 🤖. 그런 사람을 정작 업계 자율규제기구 수장으로 데려오겠다는 건, 뭐랄까 신호가 꽤 명확하죠.
SAFA가 실제로 하려는 일은 세 가지로 정리돼요. 첫째는 모델 출시 전에 제3자 안전성 테스트를 거치도록 하는 것, 둘째는 AI 사고가 터졌을 때 업계 차원에서 보고·공유하는 체계를 만드는 것, 셋째는 국가안보 사안에서 연방기관이나 국립연구소와 조정 창구 역할을 하는 거예요. 언뜻 들으면 꽤 그럴듯하잖아요. 근데 문제는 이걸 감독할 상위 기관이 없다는 거예요. 규제 대상인 기업들이 규제 기구의 설립자이자 자금줄이자 구성원인 셈이니까요.
당연히 비판도 바로 나왔어요. 코히어 CEO 에이단 고메즈는 이걸 두고 "이름만 다른 카르텔"이라고 꼬집었어요. 자율규제라는 이름으로 진입장벽을 세워서, 빅3 뒤에 있는 작은 스타트업들이 같은 수준의 컴플라이언스를 갖추기 어렵게 만들 거라는 우려죠 ⚠️. 실제로 이 정도 규모의 테스트·인증 체계를