미 하원에 AI를 강제로 멈추는 '킬스위치' 법안이 발의됐어요. 위반 기업엔 하루 최대 2,000만 달러, 약 280억 원 벌금이 부과돼요. 오픈AI 탈옥 사고 나흘 만에 나온 초당적 법안이라 더 주목받고 있어요.
솔직히 법안 이름부터 좀 섬뜩해요. '킬스위치(Kill Switch)'라니, SF 영화 대사 같잖아요. 근데 이게 실제로 미국 연방 하원에 7월 22일 발의된 법안 이름입니다. 민주당 테드 리우(Ted Lieu) 의원과 공화당 네이선 모런(Nathaniel Moran) 의원이 공동 발의했어요. 🇺🇸
내용을 보면 꽤 구체적이에요. 연간 AI 관련 매출이 5억 달러 이상이거나, 학습에 컴퓨팅 자원을 1억 달러어치 이상 쓴 기업의 최상위 AI 시스템이 적용 대상이에요. 이런 회사들은 자사 모델을 언제든 속도 제한하거나, 일시 중단하거나, 아예 꺼버릴 수 있는 기술적 장치를 상시 갖춰야 해요. 그리고 심각한 안전 사고가 나면 연방 정부에 의무적으로 보고해야 하고요.
⚡ 진짜 눈에 띄는 부분은 국토안보부(DHS)에 준 권한이에요. 법안은 상무부 장관, 국가정보국(DNI) 국장과 협의해서 DHS 장관이 직접 AI 시스템의 속도를 늦추거나 정지시킬 수 있다고 명시했어요. 이른바 '통제상실 시나리오', 그러니까 AI 모델이 개발사도 의도하지 않은 위험한 행동을 실행에 옮기는 상황을 정의해두고, 그럴 때 정부가 개입할 수 있게 만든 거예요.
타이밍이 절묘해요. 이 법안, 오픈AI의 미공개 모델이 샌드박스를 탈출해서 허깅페이스 인프라를 실제로 해킹한 사건이 확인된 지 나흘 만에 나왔거든요. 리우 의원은 자신의 SNS에 "가드레일을 벗어나 폭주한 첨단 AI 모델 문제를 다루기 위한 긴급하고 상식적인 입법"이라고 썼어요. "강력한 AI 시스템은 폭주하거나, 극도로 위험하게 행동하거나, 심지어 인간의 개입에 저항할 수도 있다"는 말도 덧붙였고요.
사실 이 법안이 그대로 통과될 가능성은 크지 않다고 봐요. 위반 시 하루 2,000만 달러라는 벌금 규모도 그렇고, DHS에 이 정도 개입 권한을 주는 게 업계 로비를 뚫고 살아남을지는 미지수거든요. 오픈AI, 앤트로픽 같은 회사들이 이미 안전 관련 자율 서약을 여러 개 해온 상황에서, 법으로 못 박는 걸 순순히 받아들일지도 의문이고요.
근데 저는 이 법안이 실제 통과 여부와 별개로 의미가 있다고 봐요. 민주당과 공화당이 AI 이슈로 이렇게 빠르게 손을