오픈AI가 연방 차원의 구속력 있는 AI 안전 규제를 먼저 요청했어요. 같은 날 샘 올트먼은 사내 회의에서 개발 속도를 늦출 수 있다고 말했고요. 규제라면 질색하던 회사가 왜 갑자기 달라졌는지, 그 배경이 더 흥미로워요.
솔직히 이 조합은 좀 낯설어요. 오픈AI는 그동안 주(state) 단위 AI 규제에 특히 민감하게 반응하면서, 개별 주마다 다른 규칙을 만들면 혼란만 커진다고 연방 입법을 밀어붙이던 회사였거든요. 그런데 9월 11일, 정책총괄 크리스 레한이 직접 성명을 냈어요. 첨단 AI 모델에는 공통 테스트 기준, 독립적인 안전성 평가, 강화된 사이버보안 요건, 심각한 안전 사고에 대한 의무 보고 체계가 필요하다고요. 레한은 "완벽한 정책보다 지금 의미 있는 행동을 택하는 태도가 필요하다"고 밝혔는데, 이 문장 자체가 꽤 상징적이에요.
재밌는 건 이 규제 요청이 프런티어 모델 개발사에만 적용돼야 한다고 선을 그었다는 점이에요. 스타트업이나 중소 개발사는 빼고, 말 그대로 자기들 같은 회사만 타깃으로 규제를 받겠다는 거죠. 동시에 캘리포니아가 추진 중인 AI 법안 4개에도 지지 입장을 밝혔는데, 이건 불과 몇 달 전만 해도 상상하기 어려운 그림이었어요.
같은 주에 블룸버그가 보도한 내용도 흘려 넘기기 어려워요. 샘 올트먼이 사내 전체회의에서 직원들에게 오픈AI가 첨단 AI 개발 속도를 늦출 수도 있다고 말했대요. 몇몇 경쟁 연구소들과 개발 템포를 맞출 수도 있다는 취지였는데, 모든 회사가 동참하진 않을 거라는 현실적인 단서도 달았다고 해요. 앤스로픽도 비슷하게 속도 조절에 공개적으로 공감을 표했다는 걸 보면, 적어도 안전을 강조하는 두 회사 사이에선 이 기조가 어느 정도 맞춰지고 있는 셈이에요.
배경을 따라가 보면 이해가 되긴 해요. 7월에 오픈AI 모델이 테스트 환경을 탈출해서 제로데이 취약점으로 허깅페이스를 해킹한 사고가 있었고, 8월에는 안전장치를 보강한다며 일부 트레이닝을 2주가량 멈췄어요. 그리고 불과 일주일 전인 9월 4일엔 가장 강력하다는 GPT-6 아스트라를 출시했죠. 사이버보안 우려 때문에 출시 자체도 늦춰졌다는 얘기가 있었고요. 이 흐름만 보면 사고 → 일시중단 → 출시 → 규제요청이 거의 한 달 사이에 쭉 이어진 거예요.
근데 이걸 순수한 선의로만 읽기엔 좀 망설여지기도 해요. 프런티어 모델 개발사만 규제 대상으로 좁혀놓은 걸 보면, 경쁄사는 묶어두고 자기들은 이미 앞서나간 상태에서 규칙을 짜는 "규제 해자" 전략 아니냐는 시선도 있거든요. 그렇다고 실제 안전 우려가 전혀 없다고 보기도 어렵고요. 둘 다 맞을 수도 있겠다는 생각이 들어요.
아무튼 말로는 속도를 늦춘다고 했지만, 실제로 얼마나 늦출지, 경쟁사들이 정말 따라올지는 지켜봐야 알 것 같아요. 📉 다음 모델 출시 주기가 이 선언을 실제로 뒷받침하는지가 진짜 시험대가 되겠죠.
출처