버니 샌더스·그렉 카사르 미 의원이 '슈퍼인텔리전스 금지법'을 발의했어요. 위반 기업은 강제 해산, 개인은 최대 20년 징역에 처해질 수 있어요. 공화당이 다수인 의회에서 통과 가능성은 낮다는 전망이 많아요.
어제까지만 해도 트럼프 대통령이 UN 총회에서 미국 정부 문서상 AI 명칭을 '슈퍼인텔리전스'로 바꾸겠다고 공식 발표했잖아요. 근데 하루도 안 지나서 이번엔 정반대 방향에서 큰 뉴스가 터졌어요. 9월 23일, 버니 샌더스 상원의원과 그렉 카사르 하원의원이 슈퍼인텔리전스 자체를 법으로 금지하는 법안을 발의했거든요. 이름부터 직설적이에요. 'Ban Artificial Superintelligence Act', 번역하면 '인공 슈퍼인텔리전스 금지법'.
법안이 정의하는 슈퍼인텔리전스는 생각보다 구체적이에요. "대부분의 영역에서 인간의 인지 성능을 뛰어넘거나, 인류를 무력화하거나 심지어 연방정부를 전복할 만한 능력을 갖춘 AI"라고 못박아놨어요. 여기에 더해 '전조 특성'이라는 개념도 등장하는데, 핵·화학·생물무기 설계를 도울 수 있는 능력, 인간을 속이는 능력, 스스로 기능을 수정하는 능력까지 전부 금지 대상에 포함시켰어요. 솔직히 이 정도면 어지간한 프론티어 모델 개발사들은 다 긴장할 만한 문구예요.
처벌 수위도 만만치 않아요. 법을 어긴 기업은 '기업 사형'이라 불리는 강제 해산 조치를 받을 수 있고, 개인은 최대 20년 징역형에 처해질 수 있대요. 이건 핵무기를 불법으로 개발했을 때 적용되는 처벌 수위와 비슷한 수준이라고 하니, 입법자들이 이 문제를 얼마나 심각하게 보고 있는지 짐작이 가요. 법안은 여기서 그치지 않고 '연방 AI부(Department of Artificial Intelligence)'라는 새 정부기관 신설까지 제안하고 있어요. 안전 가이드라인이 마련될 때까지는 첨단 AI 개발 자체를 일시 중단시키자는 내용도 들어있고요.
흥미로운 대목은 미국 혼자 이걸 하겠다는 게 아니라는 점이에요. 법안은 슈퍼인텔리전스가 전 세계 어디서도 개발되지 못하도록 국제 협정을 추진하겠다는 조항까지 담고 있어요. 냉전기 핵확산금지조약(NPT) 같은 걸 AI판으로 만들자는 셈이죠.
근데 현실적으로 이 법안이 통과될 가능성은 그리 높지 않아 보여요. 공화당이 다수인 의회에서는 이보다 훨씬 온건한 AI 규제안조차 합의를 못 이룬 전례가 많거든요. 실제로 워싱턴 관계자들 사이에서도 "장기적으로 봐도 통과는 어렵다"는 평가가 지배적이에요.
사실 이번 법안을 보면서 든 생각은, 트럼프의 '슈퍼인텔리전스 개명'과 샌더스·카사르의 '슈퍼인텔리전스 금지법'이 같은 단어를 놓고 완전히 반대 방향으로 달려가고 있다는 거예요. 한쪽은 이름을 격상시키고 싶어하고, 다른 한쪽은 존재 자체를 지우고 싶어하죠. 이 온도차가 지금 미국 AI 정치 지형을 그대로 보여주는 것 같아요. 개인적으로는 이 법안이 실제로 통과되긴 어렵겠지만, 프론티어 랩들에게 보내는 경고 신호로서는 꽤 효과가 있을 거라 봐요. 규제 논의의 스펙트럼 자체를 한쪽 끝으로 확 당겨놨으니까요.
이 법안이 앞으로 어떤 식으로 다뤄질지, 그리고 실리콘밸리 쪽에서 어떤 반응을 내놓을지 좀 더 지켜봐야 할 것 같아요.
출처