버니 샌더스·그렉 카사르 미 의원이 '슈퍼인텔리전스 금지법'을 발의했어요. 위반 기업은 강제 해산, 개인은 최대 20년 징역에 처해질 수 있어요. 공화당이 다수인 의회에서 통과 가능성은 낮다는 전망이 많아요.
어제까지만 해도 트럼프 대통령이 UN 총회에서 미국 정부 문서상 AI 명칭을 '슈퍼인텔리전스'로 바꾸겠다고 공식 발표했잖아요. 근데 하루도 안 지나서 이번엔 정반대 방향에서 큰 뉴스가 터졌어요. 9월 23일, 버니 샌더스 상원의원과 그렉 카사르 하원의원이 슈퍼인텔리전스 자체를 법으로 금지하는 법안을 발의했거든요. 이름부터 직설적이에요. 'Ban Artificial Superintelligence Act', 번역하면 '인공 슈퍼인텔리전스 금지법'.
법안이 정의하는 슈퍼인텔리전스는 생각보다 구체적이에요. "대부분의 영역에서 인간의 인지 성능을 뛰어넘거나, 인류를 무력화하거나 심지어 연방정부를 전복할 만한 능력을 갖춘 AI"라고 못박아놨어요. 여기에 더해 '전조 특성'이라는 개념도 등장하는데, 핵·화학·생물무기 설계를 도울 수 있는 능력, 인간을 속이는 능력, 스스로 기능을 수정하는 능력까지 전부 금지 대상에 포함시켰어요. 솔직히 이 정도면 어지간한 프론티어 모델 개발사들은 다 긴장할 만한 문구예요.
처벌 수위도 만만치 않아요. 법을 어긴 기업은 '기업 사형'이라 불리는 강제 해산 조치를 받을 수 있고, 개인은 최대 20년 징역형에 처해질 수 있대요. 이건 핵무기를 불법으로 개발했을 때 적용되는 처벌 수위와 비슷한 수준이라고 하니, 입법자들이 이 문제를 얼마나 심각하게 보고 있는지 짐작이 가요. 법안은 여기서 그치지 않고 '연방 AI부(Department of Artificial Intelligence)'라는 새 정부기관 신설까지 제안하고 있어요. 안전 가이드라인이 마련될 때까지는 첨단 AI 개발 자체를 일시 중단시키자는 내용도 들어있고요.
흥미로운 대목은 미국 혼자 이걸 하겠다는 게 아니라는 점이에요. 법안은 슈퍼인텔리전스가 전 세계 어디서도 개발되지 못하도록 국제 협정을 추진하겠다는 조항까지 담고 있어요. 냉전기 핵확산금지조약(NPT) 같은 걸 AI판으로 만들자는 셈이죠.
근데 현실적으로 이 법안이 통과될 가능성은 그리 높지 않아 보여요. 공화당이 다수인 의회에서는 이보다 훨씬 온건한 AI 규제안조차 합의를 못 이룬 전례가 많거든요. 실제로 워싱턴 관계자들 사이에서도 "장기적으로 봐도 통