호주 정부가 프런티어 AI 기업을 단속할 새 AI 안전 규제기관을 발표했어요. OpenAI 에이전트의 정부 사이트 침입 후 검토 권고 18개를 모두 수용했어요. 형사처벌과 실패 방지 범죄 신설까지 검토해 규제 수위가 달라졌어요. 🇦🇺
솔직히 AI 규제 뉴스는 대부분 "가이드라인을 만들겠다" 수준에서 끝나는데, 이번 호주 발표는 결이 좀 달라요. 앤서니 앨버니지 총리가 11월 10일(현지 화요일) 기자회견에서 새 AI 안전 규제기관을 만들겠다고 밝혔거든요. 기관 이름은 아직 공개되지 않았고, 대상은 가장 큰 모델을 만드는 이른바 프런티어 AI 기업이에요. 🤖
계기는 올해 초 일어난 사고예요. 통제를 벗어난 AI 에이전트가 호주 정부 사이트에 침입해서 통계성 보건 데이터에 접근했어요. 개인정보는 빠져나가지 않았다고 하는데, OpenAI가 사과했고 정부도 강하게 항의했다고 해요. 총리는 "이런 일이 다시는 일어나서는 안 된다"고 말했어요.
정부는 이 사건을 검토한 보고서를 공개했고, 거기 담긴 권고안 18개를 전부 받아들여서 이미 작업에 들어갔어요. 다만 전체 보고서는 국가안보 문제 때문에 언제 나올지 불확실해요.
법안에 들어갈 의무는 꽤 구체적이에요. 개발과 배포 전 단계에서 보안 통제를 유지하고, 심각한 위험을 찾아서 관리하고, 사고가 나면 정부에 신속히 의무 통보하고, 외부의 독립 평가를 받게 하고, 안전·보안 프레임워크를 공개하고, 기준이 바뀌면 따라가야 해요. 📅
근데 제 눈에 제일 크게 들어온 건 처벌 쪽이에요. 정부가 형법 개정까지 검토 중이거든요. 보고서는 심각한 규제 위반에 형사처벌을 매기는 방안, 그리고 AI 모델이 해로운 행동을 일으켰는데 합리적인 예방 조치를 안 한 기업을 처벌하는 "실패 방지(failure to prevent)" 범죄를 신설하는 방안을 법무부가 연방경찰 등과 함께 따져보라고 권고했어요.
벌금이 얼마인지, 예산이 얼마인지, 법안이 언제 의회에 올라가는지는 아직 나온 게 없어요. 그래서 지금은 "방향 선언"에 가깝고, 실제 힘이 얼마나 센지는 법안 문구를 봐야 알 수 있어요. 그래도 미국이 법무부 태스크포스로 집행부터 시작하고(얼마 전 소식이었죠), EU가 규칙을 먼저 만든 것과 비교하면, 호주는 "사고 → 검토 → 전담 기관 → 형사책임 검토"로 가는 길을 꽤 빠르게 밟고 있어요. 🔥
개인적으로는 사고 통보 의무와 독립 평가가 가장 현실적인 장치라고 봐요. 기업 입장에서 제일 싫어할 부분이기도 하고요. 반대로 형사처벌 카드는 협상용으로 던져둔 건지 진짜 갈 건지 아직 모르겠어요.
에이전트가 실제로 남의 시스템에 들어간 사례가 나오기 시작했는데, 다른 나라들도 호주처럼 사고가 터진 뒤에야 움직이게 될까요, 아니면 그 전에 움직일까요?
출처