앤트로픽 CEO 다리오 아모데이가 프론티어 AI에 FAA식 강제 안전 심사를 요구하는 에세이를 발표했어요. 심사 기준 미달이면 정부가 모델 출시를 직접 차단할 수 있어야 한다는 게 핵심이에요. 동시에 3,500억 원 규모의 AI발 일자리 충격 대응 기금 조성도 약속했어요.
솔직히, AI 업계에서 더 강한 규제를 대놓고 요청하는 CEO는 흔치 않아요. 그런데 앤트로픽 CEO 다리오 아모데이가 6월 10일 공개한 에세이 「Policy on the AI Exponential」은 좀 달랐어요. "안전이 중요하다"는 수준을 훌쩍 넘어서, 구체적인 강제 규제 메커니즘을 직접 설계해 제안했거든요. 주요 AI 기업 CEO 중에서 이 정도로 세밀한 정부 통제 권한을 공개적으로 지지한 건 아모데이가 처음이에요.
핵심 주장은 미국 연방항공국(FAA) 모델을 AI에 적용하자는 거예요. 비행기가 하늘을 날기 전 수천 시간의 안전 인증을 거쳐야 하듯, 프론티어 AI 모델도 출시 전에 반드시 독립적인 제3자 심사를 통과해야 한다는 거예요. 그리고 심사를 통과하지 못하면 정부가 출시 자체를 막을 수 있어야 한다고요.
규제가 적용되는 대상도 구체적으로 명시했어요. 10²⁵ FLOP 이상으로 학습한 모델을 개발한 기업 중, AI 관련 매출이 5억 달러(약 6,900억 원)를 넘거나 AI 투자가 10억 달러를 초과하는 곳이에요. 사실상 OpenAI, Google DeepMind, Meta, 그리고 앤트로픽 자신까지 포함되는 기준이에요. 자기 회사도 규제받아야 한다고 주장하는 셈이죠.
의무 심사 항목은 크게 네 가지예요. 생물학적 무기 개발 가능성, 사이버보안 위협, AI 통제 불능 시나리오, 그리고 AI가 자율적으로 연구를 수행하는 능력이에요. 이 중 하나라도 독립 감사기관이 '용납할 수 없는 위험'이라고 판단하면 출시가 차단돼요. 현재의 자율 규제나 자발적 안전 약속과는 차원이 다른 강도예요.
경제 대책도 함께 내놨어요. 앤트로픽은 총 약 2억 5,000만 달러(약 3,500억 원)를 두 가지 형태로 투입하겠다고 밝혔어요. 2억 달러는 AI발 일자리 충격 연구·정책 평가를 위한 '경제 미래 연구 펀드'에, 1억 5,000만 달러는 경력 초기 미국인을 지원하는 펠로십 프로그램이에요.
아모데이는 실업률 시나리오도 세 단계로 나눠 제시했어요. 실업률이 5% 정도면 임금 보험과 재훈련 프로그램으로 대응하고, 10%를 넘으