벤지오의 비영리 AI 연구소 로우제로가 캐나다·독일에서 최대 3억 달러를 받기로 했어요. 캐나다는 1.5억 캐나다달러, 독일은 1억 유로를 지원하고 베를린에 새 사무소도 생겨요. 안전한 AI를 국가 차원에서 직접 밀어주는 사례라 눈여겨볼 만해요.
오늘(9월 16일) 몬트리올에서 열린 올인(ALL IN) 컨퍼런스에서 요슈아 벤지오의 비영리 연구소 로우제로(LawZero)가 캐나다와 독일 정부로부터 최대 3억 달러 규모 자금을 지원받는다는 소식이 나왔어요. 캐나다가 1.5억 캐나다달러, 독일이 1억 유로를 각각 내는 구조고요. 🔬
벤지오는 딥러닝 3대 천왕 중 한 명이자 튜링상 수상자인데, 작년에 "AI가 통제 불능 상태로 빠질 수 있다"는 우려로 로우제로를 세웠어요. 처음엔 자선 기금 3천만 달러 정도로 시작한 소규모 조직이었는데, 이번에 국가 두 곳이 직접 돈을 대는 수준까지 커진 거죠. 사실 이 정도 규모의 정부 지원이 안전성 연구 쪽에 직접 꽂히는 경우는 흔치 않아서 좀 눈에 띄었어요.
이 돈이 어디에 쓰이냐면요, 연구 인력 채용이랑 '사이언티스트 AI(Scientist AI)'라는 시스템을 개발하는 데 필요한 컴퓨팅 비용에 들어간다고 해요. 사이언티스트 AI는 지금 나와 있는 모델들이 가진 부작용, 그러니까 자기 보존 욕구라든지 목표를 위해 수단을 안 가리는 경향 같은 걸 아예 없앤 형태로 설계한다고 하고요. 로우제로는 또 베를린에 새 사무소를 내면서 유럽 쪽 활동도 넓히고, 캐나다에서는 하이퍼텍(Hypertec)이랑 5C라는 데이터센터 업체랑 손잡고 자체 컴퓨팅 인프라까지 구축한다고 해요.
근데 이걸 보면서 든 생각은, 결국 안전 연구도 돈과 컴퓨팅 자원 없이는 못 굴러간다는 거예요. 벤지오처럼 "속도를 늦추자"고 주장해온 사람의 조직이 이 정도 자금을 받는다는 게, AI 안전 담론이 이제는 학술적 경고 수준을 넘어 실제 국가 예산이 붙는 단계로 넘어갔다는 신호 같기도 하고요. 다만 이 자금이 실제로 눈에 보이는 결과물, 그러니까 진짜 '안전한' 모델로 이어질지는 시간이 걸릴 문제긴 해요.
정부 두 곳이 동시에 움직였다는 점에서, 다른 나라들도 비슷한 움직임을 보일지 궁금해지네요.
출처