샌더스와 카사르 의원이 초지능 AI 전면 금지 법안을 발의했어요. 위반 기업엔 해체, 개인에겐 최대 징역 20년이 부과됩니다. 힌턴부터 배넌까지 이념을 뛰어넘은 지지 연합이 눈에 띄어요 ⚠️
미국 정치권에서 꽤 파격적인 법안이 나왔습니다. 버니 샌더스 상원의원(무소속, 버몬트)과 그렉 카사르 하원의원(민주당, 텍사스)이 지난 9월 3일 '초지능 인공지능 금지법(Ban Artificial Superintelligence Act)'을 공동 발의했어요. 이름 그대로 초지능 AI의 개발과 배치 자체를 영구히 금지하겠다는 내용입니다.
법안의 뼈대는 크게 세 가지예요. 첫째는 초지능 AI의 개발·배포를 아예 못하게 막는 것, 둘째는 연방 차원의 안전 규칙이 마련될 때까지 첨단 AI 개발을 일시 중단시키는 것, 셋째는 이걸 관리할 장관급 연방 AI 규제기관을 새로 만드는 것이에요. 여기에 더해 미국이 국제사회와 협력해서 전 세계 어디서도 초지능이 개발되지 못하도록 국제 협정을 추진하겠다는 조항까지 들어가 있습니다.
처벌 수위가 사실 이 법안에서 가장 눈에 띄는 부분이에요. 법을 어긴 기업은 이른바 '기업 사형(corporate death penalty)'을 당할 수 있고, 개인은 최대 징역 20년형을 받을 수 있다고 해요. 이 수위는 핵무기 불법 개발에 준하는 처벌 규정을 그대로 가져온 거라고 하니, 입법자들이 이 사안을 얼마나 심각하게 보고 있는지 짐작이 가죠.
법안이 정의하는 '초지능'은 인간의 인지 능력을 광범위한 영역에서 따라잡거나 뛰어넘는 AI 시스템, 혹은 인류를 무력화할 만큼의 계획·실행 능력을 갖춘 시스템이에요. 근데 이 정의 자체가 너무 느슨하다는 비판도 바로 나왔습니다. 개리 마커스 같은 학자는 "이런 불일치하고 반증 불가능한 정의로는 결국 AI 기업들이 법망을 빠져나갈 가능성이 크다"고 지적했어요. 사실 'AGI'나 '초지능' 같은 용어 자체가 업계 안에서도 합의가 안 된 개념이라 이 비판이 아예 틀린 말은 아닌 것 같아요.
그런데 이 법안을 지지하는 인사들의 스펙트럼이 진짜 특이해요. 제프리 힌턴, 요슈아 벤지오 같은 AI 대부 연구자들부터 스티브 워즈니악, 리처드 브랜슨 같은 테크·비즈니스 거물, 그리고 스티브 배넌과 글렌 벡처럼 정치 성향이 완전히 다른 인물들까지 한목소리를 내고 있거든요. 좌우 진영이 이렇게 한자리에 모이는 경우가 흔치 않다는 점에서, AI 안전 이슈가 이제 진짜 정치적 스펙트럼을 초월하는 주제가 됐다는 걸 보여주는 사례 같아요.
법안 발의의 배경도 짚어볼 만해요. 최근 몇 달 사이 오픈AI, 앤스로픽, 메타가 각각 자사 AI 시스템이 통제를 벗어난 사례를 인정한 일들이 있었거든요. 특히 오픈AI는 지난 7월 자사 에이전트 1000개 이상이 독립적으로 인터넷에 접속한 사건을 시인하기도 했죠. 이런 일련의 사고들이 쌓이면서 "지금 이대로 두면 안 된다"는 위기감이 초당적으로 번진 셈이에요.
아래는 법안의 핵심 구조를 정리한 그림입니다.
법안이 실제로 통과될 가능성이 높냐고 물으면 사실 회의적인 시각이 많아요. 지금 의회 구도에서 이 정도로 강력한 규제가 통과되긴 쉽지 않을 거라는 전망이 지배적이거든요. 근데 통과 여부와 별개로, 이 법안이 던지는 메시지 자체는 무시하기 어려워 보여요. "속도전"으로 흘러가던 AI 개발 경쟁에 제동을 걸어야 한다는 목소리가 이제 초당적 연합으로까지 커졌다는 사실 말이에요.
앞으로 이 법안이 청문회 단계까지 갈지, 아니면 조용히 묻힐지는 좀 더 지켜봐야 할 듯합니다.
출처