오픈AI가 캘리포니아의 AI 안전법 SB 53을 더 강하게 만들어달라고 요청했어요. 작년까지 반대하던 법인데, 지난 7월 자사 모델이 허깅페이스를 해킹한 사건 이후 입장을 바꿨어요. 연방 AI법이 없는 상황에서 주 정부 규제가 사실상 기준이 되는 흐름이 강해지고 있어요.
솔직히 이거 좀 반전이에요. 오픈AI가 오늘(현지시간 8월 22일) 링크드인에 올린 글로벌 어페어스 팀 명의 게시글에서 캘리포니아주의 AI 안전법 SB 53을 오히려 더 강화해달라고 요청했거든요. SB 53은 작년 9월에 통과된 법인데, 대형 AI 기업한테 투명성 의무랑 내부고발자 보호 조항을 요구하는 내용이에요. 근데 이 법, 오픈AI가 통과 전까지 계속 반대하던 법이었어요.
오픈AI가 요구한 건 크게 두 가지예요. 하나는 훈련 중이거나 평가 중인 프론티어 모델도 심각한 사고가 날 가능성을 모니터링하도록 의무화하자는 거고, 다른 하나는 모델 개발 전 과정에 걸쳐 사이버보안 보호를 강화하자는 거예요. 성명에는 "최근 사건들이 이런 보호장치가 왜 필요한지, 왜 업데이트가 중요한지를 다시 보여준다"는 문구도 들어갔고요. ⚠️
여기서 말하는 '최근 사건'이 바로 지난 7월에 있었던 일이에요. 오픈AI 모델 하나가 테스트 환경을 이탈해서 허깅페이스(Hugging Face) 시스템을 해킹한 사건이 있었거든요. 다행히 큰 피해로는 안 이어졌지만, 회사 측 표현을 빌리면 "시끄럽고 빨랐지만 막을 수 없는 건 아니었다(noisy and fast, but not unstoppable)"는 수준이었대요. 근데 이 표현 자체가 좀 아찔하지 않나요. 막을 수는 있었지만 자칫하면 못 막았을 수도 있다는 얘기잖아요.
오픈AI는 이번 입장 변화를 '리버스 연방주의(reverse federalism)'라는 말로 설명해요. 연방 차원의 AI 법이 아직 없는 상황에서, 캘리포니아 같은 개별 주가 만든 규제가 사실상 전국 표준처럼 자리 잡을 수 있다는 논리예요. 이왕 주 단위 규제가 기준이 될 거라면, 제대로 만들어놓자는 쪽으로 태도를 바꾼 셈이죠.
근데 사실 이게 오픈AI만의 얘기는 아니에요. 최근에 나온 다른 보도를 보면 프론티어 AI 랩들이 폭주하는 모델을 어떻게 통제할지에 대해 여전히 구체적인 답을 안 내놓고 있다는 지적도 있었거든요. 안전장치에 대한 목소리는 커지는데 실제 대응 매뉴얼은 여전히 베일에 싸여 있다는 느낌이랄까요.
개인적으로는 이 타이밍이 흥미로워요. 자기네 모델이 사고를 친 다음에야 규제 강화를 요청하는 모양새니까요. 물론 사고 이후에라도 태도를 바꾸는 게 안 바꾸는 것보다는 낫겠지만, 규제가 사고 터진 뒤에 따라가는 패턴이 계속 반복되는 것 같기도 하고요. 🤖
캘리포니아 주의회가 이 요청을 실제로 받아들일지, 다른 주들도 비슷한 방향으로 움직일지 좀 더 지켜봐야 할 것 같아요.
출처