오늘 하루 AI 업계에서 꽤 낯선 장면이 나왔다. Sam Altman(OpenAI), Dario Amodei(Anthropic), Demis Hassabis(Google DeepMind), Mustafa Suleyman(Microsoft AI) — 글로벌 AI 경쟁의 최전선에 있는 이 네 명이 미 의회를 향해 공동 서한을 보냈다. 요지는 하나다. 합성 DNA와 RNA를 판매하는 기업들이 고객과 주문을 의무적으로 스크리닝하도록 법제화해달라는 것.
Institute for Progress와 Foundation for American Innovation이 서한을 조직했고, 과학자와 바이오시큐리티 전문가들도 함께 이름을 올렸다. 이 서한이 눈에 띄는 건 내용보다 형식이다. 보통 이 네 회사는 모델 벤치마크와 기업가치를 두고 매주 경쟁을 벌인다. 그 구도를 잠깐 내려놓고 공동 서명을 했다는 건, 이 문제를 꽤 진지하게 바라보고 있다는 신호이기도 하다.
왜 지금이냐면, 이유가 있다. 최근 연구에서 AI 단백질 설계 도구가 기존 스크리닝 소프트웨어를 우회하는 위험한 염기서열을 생성할 수 있다는 사실이 실증됐다. 합성 DNA는 이미 인터넷 주문이 가능한 세상이다. 거기에 AI가 결합되면 이야기가 달라진다. 서한의 표현을 빌리자면 "AI 발전 속도를 고려할 때, 나쁜 행위자들이 생물무기를 개발하는 데 필요한 지식 장벽이 의미 있게 낮아질 현실적인 가능성이 있다."
현재 연방 지원을 받는 연구자들에겐 스크리닝된 공급업체 사용이 이미 의무화돼 있다. 그런데 민간 기업이나 일반 구매자에게는 아무 제약이 없다. 미 상원에서 양당이 공동 발의한 법안이 이 공백을 메우려 하고 있고, 오늘 서한은 그 법안에 힘을 싣는 역할이다.
솔직히 이게 순수한 이타심인지는 잘 모르겠다. AI 기업들 입장에서 생각해보면, 자사 AI 도구가 생물무기 개발에 악용됐다는 사건이 하나라도 터지는 순간 업계 전체에 쏟아질 규제 압박은 지금과 비교가 안 될 거다. 선제적으로 자정 의지를 보여주는 게 장기적으로 산업을 지키는 일이기도 하다. 그래도 이 정도 면면의 사람들이 함께 이름을 올렸다는 건, 의도야 어떻든 업계 차원에서 진지한 신호를 보내고 있다는 건 분명하다.
근데 의회가 얼마나 빠르게 움직일지는 또 다른 문제다. 미국 정치 특성상 업계가 먼저 요청한다고 해서 입법이 속도를 내진 않는다. 그래도 이 정도 이름값의 서명이 붙은 공개서한이라면 무시하기는 쉽지 않을 것 같다. 🌐 생물무기 위협이 사이버보안처럼 AI 업계의 핵심 어젠다로 떠오를 날이 점점 가까워지고 있다는 생각이 든다.
출처