캘리포니아 뉴섬 주지사가 AI 감사관 등록제 등 전미 최초 AI 검증 법안 두 건에 서명했어요. AB1405는 2029년 1월부터 등록된 감사관만 AI 감사를 할 수 있게 하는 내용이에요. 연방 차원 AI 규제가 멈춰선 사이, 캘리포니아가 사실상 표준을 새로 쓰고 있어요.
9월 9일, 개빈 뉴섬 캘리포니아 주지사가 AI 관련 법안 두 건에 서명했습니다. 상원법안 813(SB 813)과 하원법안 1405(AB 1405)인데, 주지사실이 직접 "전미 최초의 안전장치"라고 부를 만큼 의미를 부여한 법안들이에요.
핵심은 이겁니다. AB 1405는 캘리포니아 정부운영청(GovOps) 산하에 'AI 감사관 등록제'를 만들라는 법이에요. 2029년 1월 1일부터는 등록되지 않은 사람이나 기관은 아예 공식적인 AI 감사를 할 수 없게 됩니다. 독립성, 투명성, 진실성 기준을 통과한 감사관만 활동할 수 있는 거죠.
SB 813은 한발 더 나아가서, AI 시스템과 모델이 주법을 준수하는지 평가할 수 있는 '독립 검증기관' 체계 자체를 만드는 내용이에요. 두 법이 맞물리면서 프론티어 AI 랩부터 채용 관련 AI 도구까지 광범위하게 규제 대상에 들어가게 됩니다.
근데 사실 이게 처음이 아니에요. 캘리포니아는 개인정보보호법(CCPA) 때도 그랬고, 연방 정부가 움직이지 않을 때마다 먼저 치고 나가서 사실상 전국 표준을 만들어버리는 패턴을 반복해왔거든요 🇺🇸. 실리콘밸리 빅테크들이 대부분 캘리포니아에 본사를 두고 있다 보니, 캘리포니아 법이 곧 업계 표준이 되는 경우가 많죠.
업계 반응은 엇갈립니다. 일부에서는 "산업계가 어느 정도 합의한 규제"라는 평가도 나오는 반면, 프론티어 랩 입장에서는 감사 대상과 절차가 늘어나는 게 부담일 수밖에 없어요. 특히 등록 감사관 제도가 자리 잡는 2029년까지는 유예 기간이 있지만, 그 사이 관련 업계에서는 벌써부터 "누가 감사관 자격을 딸 것인가"를 두고 신경전이 시작됐다는 얘기도 들려요.
개인적으로는 이번 법안이 늦었다기보다 오히려 시기가 절묘하다고 봐요 🤔. AI 에이전트들이 실제 시스템에 접근해서 자율적으로 일을 처리하는 사례가 늘어나는 지금, 독립적인 제3자가 이를 검증할 수 있는 체계 자체가 없었다는 게 더 이상하긴 했거든요. 다만 감사관 등록 기준을 어떻게 잡느냐에 따라 이게 실효성 있는 안전장치가 될지, 아니면 요식행위로 끝날지 갈릴 것 같습니다.