뉴욕타임스가 AI 킬스위치 법안의 기술적 허점을 전문가 인터뷰로 짚었어요. 캘리포니아 뉴섬 주지사는 9월 18일 킬스위치 검토를 담은 행정명령에 서명했어요. 폭주하는 AI가 스스로 차단장치를 무력화할 수 있다는 우려가 핵심이에요.
요즘 미국 정치권에서 제일 뜨거운 AI 키워드 하나만 꼽으라면 '킬스위치'예요. 위험한 AI가 폭주하면 그냥 전원을 내려버리자는, 말은 단순한데 실제로는 굉장히 복잡한 아이디어죠. 근데 뉴욕타임스가 전문가들을 인터뷰해보니 이게 생각보다 훨씬 현실성이 없더라는 거예요. 🔌
하원에서 논의 중인 법안은 최고 수준 AI 시스템을 만드는 기업한테 모델을 '조절하거나 정지하거나 완전히 종료'할 수 있는 기술적 능력을 항상 유지하라고 요구해요. 여기에 더해 국토안보부한테는 재앙적 피해를 일으킬 수 있다고 판단되는 AI 시스템에 대해 셧다운이나 감속을 명령할 권한까지 주자는 내용이 담겨 있고요. 취지 자체는 이해가 가는데, 전문가들이 지적하는 건 '대체 뭘 어떻게 끌 건데'라는 실행 단계의 문제예요.
인터뷰에 응한 한 전문가는 이렇게 말했어요. "죽일 대상이 하나가 아니에요. 죽여야 할 대상이 수천 개예요." 오늘날 AI는 클라우드 여러 곳에 흩어진 API, 기업 내부에 배포된 파인튜닝 버전, 이미 누군가 다운로드해서 로컬에 돌리고 있는 오픈웨이트 모델까지 형태가 제각각이잖아요. 중앙에서 스위치 하나 내린다고 전부 꺼지는 구조가 애초에 아니라는 거죠. 게다가 정말로 폭주한 AI라면 자기를 끄려는 시도 자체를 방해하거나 우회할 수도 있다는 우려까지 나와요.
이 타이밍에 캘리포니아 개빈 뉴섬 주지사가 9월 18일 킬스위치를 검토하는 행정명령에 서명했어요. 외부 전문가와 주 정부 관계자로 구성된 위원회를 꾸려서 두 달 안에 관련 가이드라인을 마련하라는 내용이고, 원래 2029년 1월로 예정돼 있던 AI 감사 등록제 시행도 2027년 12월로 앞당겼어요. 근데 정작 뉴섬 본인도 "킬스위치가 누구한테 묻느냐에 따라 의미가 다 다르다"며 정확히 뭘 의미하는지는 아직 구체화하는 중이라고 인정했어요. 😅
사실 이 흐름은 하루 이틀 얘기가 아니에요. 지난주만 해도 진보 진영의 버니 샌더스와 극우 진영의 스티브 배넌이 나란히 서서 초지능 개발 금지법을 예고했고, 트럼프 대통령은 이런 규제 요구 전체를 '사기극'이라 부르며 정반대 방향으로 갔죠. 앤스로픽 아모데이는 '프론티어 속도 조절'을 얘기하는데, 정작 그 속도를 어떻게 늦출지에 대해서는 다들 각자 다른 그림을 그리고 있는 셈이에요.
개인적으로는 킬스위치라는 상징이 실제 기술적 실행력보다 정치적 메시지로서의 힘이 더 크다고 봐요. 인터넷에 '전원 버튼'이 없는 것처럼, 이미 전 세계에 퍼진 모델 가중치와 API 엔드포인트를 한번에 끄는 건 물리적으로 불가능에 가깝거든요. 그렇다고 이런 법안이 의미 없다는 건 아니고, 적어도 기업들이 최소한의 비상 절차를 갖추게 만드는 압박 수단으로는 작동할 수 있을 것 같아요. 다만 '눌렀더니 진짜 꺼졌다'는 순간이 언제 올지는 아무도 장담 못 하는 분위기예요.
출처