앤트로픽 CEO 다리오 아모데이가 프론티어 AI에 FAA식 강제 안전 심사를 요구하는 에세이를 발표했어요. 심사 기준 미달이면 정부가 모델 출시를 직접 차단할 수 있어야 한다는 게 핵심이에요. 동시에 3,500억 원 규모의 AI발 일자리 충격 대응 기금 조성도 약속했어요.
솔직히, AI 업계에서 더 강한 규제를 대놓고 요청하는 CEO는 흔치 않아요. 그런데 앤트로픽 CEO 다리오 아모데이가 6월 10일 공개한 에세이 「Policy on the AI Exponential」은 좀 달랐어요. "안전이 중요하다"는 수준을 훌쩍 넘어서, 구체적인 강제 규제 메커니즘을 직접 설계해 제안했거든요. 주요 AI 기업 CEO 중에서 이 정도로 세밀한 정부 통제 권한을 공개적으로 지지한 건 아모데이가 처음이에요.
핵심 주장은 미국 연방항공국(FAA) 모델을 AI에 적용하자는 거예요. 비행기가 하늘을 날기 전 수천 시간의 안전 인증을 거쳐야 하듯, 프론티어 AI 모델도 출시 전에 반드시 독립적인 제3자 심사를 통과해야 한다는 거예요. 그리고 심사를 통과하지 못하면 정부가 출시 자체를 막을 수 있어야 한다고요.
규제가 적용되는 대상도 구체적으로 명시했어요. 10²⁵ FLOP 이상으로 학습한 모델을 개발한 기업 중, AI 관련 매출이 5억 달러(약 6,900억 원)를 넘거나 AI 투자가 10억 달러를 초과하는 곳이에요. 사실상 OpenAI, Google DeepMind, Meta, 그리고 앤트로픽 자신까지 포함되는 기준이에요. 자기 회사도 규제받아야 한다고 주장하는 셈이죠.
의무 심사 항목은 크게 네 가지예요. 생물학적 무기 개발 가능성, 사이버보안 위협, AI 통제 불능 시나리오, 그리고 AI가 자율적으로 연구를 수행하는 능력이에요. 이 중 하나라도 독립 감사기관이 '용납할 수 없는 위험'이라고 판단하면 출시가 차단돼요. 현재의 자율 규제나 자발적 안전 약속과는 차원이 다른 강도예요.
경제 대책도 함께 내놨어요. 앤트로픽은 총 약 2억 5,000만 달러(약 3,500억 원)를 두 가지 형태로 투입하겠다고 밝혔어요. 2억 달러는 AI발 일자리 충격 연구·정책 평가를 위한 '경제 미래 연구 펀드'에, 1억 5,000만 달러는 경력 초기 미국인을 지원하는 펠로십 프로그램이에요.
아모데이는 실업률 시나리오도 세 단계로 나눠 제시했어요. 실업률이 5% 정도면 임금 보험과 재훈련 프로그램으로 대응하고, 10%를 넘으면 대규모 경기 부양책이 필요하며, 전례 없는 수준의 대량 실업 상황에서는 보편적 기본소득(UBI)까지 검토해야 한다는 내용이에요.
근데 업계 반응이 마냥 환영 일색은 아니에요. 일각에서는 이 제안이 결국 앤트로픽 같은 대형 기업에 유리한 진입 장벽을 만든다는 비판도 나왔어요. IPO를 준비 중인 회사가 동시에 "브레이크를 걸어야 한다"고 말하는 역설도 지적됐고요. 솔직히 그 지적이 아주 틀린 말은 아닌 것 같기도 해요.
그래도 개인적으로는, 방향 자체는 맞다고 생각해요. AI 모델의 위험성이 배포 전에 어느 정도 검증 가능한 시대가 됐고, 그걸 자율에 맡기기엔 리스크가 너무 커졌거든요. 이 에세이가 실제 정책으로 이어질지, 아니면 선언문으로 끝날지는 앞으로 지켜볼 일이에요. 특히 6월 15~17일 G7 정상회의에 아모데이가 직접 참석하는 만큼, 이 논의가 국제 무대에서 어떻게 전개될지가 꽤 흥미로울 것 같아요. 🤔
출처