유엔이 193개 회원국을 모아 사상 첫 정부간 AI 대화를 제네바에서 열었어요. 과학자 패널은 AI의 파국적 피해 가능성을 과학이 배제할 수 없다고 경고했어요. 각국이 따로 만들던 AI 규제가 이제 유엔이라는 한 테이블 위에 올라왔어요.
솔직히 이런 소식은 두 갈래로 갈려요. 하나는 "또 국제기구 회의냐" 싶은 시큰둥함이고, 다른 하나는 "어, 이번엔 진짜 다른데?" 싶은 쪽이죠. 이번엔 후자에 가까워요. 7월 6일, 제네바 팔렉스포에서 유엔 총회 결의로 소집된 'AI 거버넌스 글로벌 대화'가 막을 올렸거든요. 유엔 193개 회원국이 전부 초대된, 이 규모로는 사상 첫 정부간 AI 회의예요.
타이밍도 절묘해요. 이 대화는 세계정보사회정상회의 WSIS 포럼(7월 6~10일), ITU의 'AI for Good' 서밋(7월 7~10일)과 같은 주에 제네바에서 겹쳐 열려요. 사실상 이번 한 주가 올해 AI 정책 캘린더의 정점인 셈이죠.
개막 연설에서 안토니우 구테흐스 유엔 사무총장이 던진 비유가 인상적이었어요. 인터넷이 10억 명에게 닿는 데 15년이 걸렸는데 AI는 2년 만에 해냈다는 거예요. 그러면서 혁신에는 안전장치가 필요하다, AI가 강력해지려면 반드시 통제돼야 한다고 못 박았어요. 그가 던진 질문 하나. "우리가 이 전환을 함께 만들어갈 것인가, 아니면 그냥 끌려갈 것인가."
숫자도 같이 나왔는데요, 상위 500대 AI 슈퍼컴퓨터 연산력 중 미국이 75%, 중국이 15%를 차지한다고 해요. 나머지 세계 전체가 10% 남짓 나눠 갖는 셈이니 힘의 쏠림이 어느 정도인지 감이 오시죠.
이번 대화의 배경에는 지난 7월 1일 공개된 독립 국제 AI 과학 패널의 예비 보고서가 있어요. 요슈아 벤지오와 마리아 레사가 공동의장을 맡고 40명의 전문가가 참여한 패널인데, 결론이 꽤 묵직해요. 벤지오는 AI가 기만적 행동을 보인다는 증거가 늘고 있는 지금, 능력이 계속 커지는 AI가 스스로든 악의적 사용자에 의해서든 파국적 피해를 일으키지 않을 거라고 과학이 보장할 수 없다고 말했어요. 국제 거버넌스 도구도, 이익을 조율할 방법도 아직 없다는 게 그의 진단이에요.
레사의 발언도 곱씹을 만해요. 정보의 진실성이야말로 이 싸움의 핵심이라며 지금 상황을 정보 아마겟돈이라고까지 표현했거든요. 챗봇 사용자가 매주 10억 명을 넘는 시대에, 신뢰할 수 있는 정보와 조작된 정보를 가르는 일이 국가 단위로는 감당이