구글·오픈AI·앤스로픽이 민간 AI 안전기구 SAFA를 만들려고 준비 중이에요. CEO 후보로 백악관 AI 자문을 지낸 스리람 크리슈난을 점찍었어요. 정부 규제 없이 업계 스스로 표준을 세우겠다는 구상이라 논란도 커요.
이거 좀 아이러니한 얘기예요. AI 빅3로 불리는 구글, 오픈AI, 앤스로픽이 자기들만의 안전 규제기구를 만들겠다고 나섰는데, 그 수장 후보로 점찍은 사람이 하필 "워싱턴이 AI 규제기구를 만들 필요 없다"고 주장해온 인물이거든요.
이름은 프런티어 AI 스탠더즈 에이전시, 줄여서 SAFA(Standards Authority for Frontier AI)가 유력해요. 월가의 자율규제기구 FINRA를 모델로 삼았다고 해요. 정부가 직접 규제하는 대신, 업계가 스스로 표준을 만들고 서로를 검증하는 구조죠. 더 인포메이션 보도에 따르면 논의는 2026년 7월 구글 딥마인드 회장 데미스 하사비스가 먼저 물꼬를 텄고, 9월 15일엔 오픈AI 최고글로벌담당책임자 크리스 르헤인이 이 협력 관계를 공개적으로 확인했어요. 그리고 오늘, CEO 후보로 스리람 크리슈난이 물망에 올랐다는 보도가 나왔어요.
크리슈난이 누구냐면요, 2025년 1월부터 2026년 6월까지 트럼프 2기 행정부에서 백악관 AI 정책 자문으로 일했던 인물이에요. 그 전엔 a16z 파트너였고요. 근데 재임 기간 내내 "연방정부 차원의 AI 규제기구는 불필요하다"는 입장을 강하게 밀어붙인 걸로 유명해요 🤖. 그런 사람을 정작 업계 자율규제기구 수장으로 데려오겠다는 건, 뭐랄까 신호가 꽤 명확하죠.
SAFA가 실제로 하려는 일은 세 가지로 정리돼요. 첫째는 모델 출시 전에 제3자 안전성 테스트를 거치도록 하는 것, 둘째는 AI 사고가 터졌을 때 업계 차원에서 보고·공유하는 체계를 만드는 것, 셋째는 국가안보 사안에서 연방기관이나 국립연구소와 조정 창구 역할을 하는 거예요. 언뜻 들으면 꽤 그럴듯하잖아요. 근데 문제는 이걸 감독할 상위 기관이 없다는 거예요. 규제 대상인 기업들이 규제 기구의 설립자이자 자금줄이자 구성원인 셈이니까요.
당연히 비판도 바로 나왔어요. 코히어 CEO 에이단 고메즈는 이걸 두고 "이름만 다른 카르텔"이라고 꼬집었어요. 자율규제라는 이름으로 진입장벽을 세워서, 빅3 뒤에 있는 작은 스타트업들이 같은 수준의 컴플라이언스를 갖추기 어렵게 만들 거라는 우려죠 ⚠️. 실제로 이 정도 규모의 테스트·인증 체계를 자체적으로 갖추려면 돈과 인력이 상당히 필요하니까, 결과적으로 지금의 승자들을 더 굳혀주는 효과가 날 수도 있어요.
솔직히 저는 이게 완전히 나쁜 시도라고는 생각 안 해요. 정부 간 국제 합의가 요원한 상황에서 업계라도 최소한의 공통 기준을 만드는 건 필요하니까요. 근데 그 수장이 하필 반규제파 인사라는 점, 그리고 감시할 상위 기구가 없다는 점은 계속 걸려요. SAFA가 진짜 안전판이 될지, 아니면 규제를 피하기 위한 정교한 방패막이가 될지는 공식 출범 이후 실제로 어떤 기준을 얼마나 엄격하게 적용하는지 봐야 알 것 같아요.
연말이나 내년 초로 예상되는 공식 출범까지, 과연 어떤 회사들이 더 합류할지, 그리고 정부는 이 움직임을 가만히 지켜만 볼지 궁금해지네요.
출처