마이크로소프트가 자사 AI 모델 MAI에 적용할 '행동강령' 초안을 공개하고 6주간 의견수렴에 들어갔어요. 나델라는 "인간을 돕지 않고 인간 통제 아래 있지 않은 초지능은 추구할 가치 없다"고 밝혔어요. 앤스로픽의 감속 제안에 경쟁사 아닌 동조자로 응답하며, 안전 논쟁의 무게중심이 바뀌고 있어요.
근데 이번 주말 사이에 AI 업계 분위기가 확실히 달라졌어요. 다리오 아모데이가 3,800단어짜리 에세이 "We Must Pace the Frontier"를 올리면서 시작된 감속 논쟁에, 월요일인 오늘 사티아 나델라가 직접 뛰어들었거든요. 근데 그냥 말로만 동조한 게 아니라, 마이크로소프트가 자사 AI 모델 MAI 전체에 적용할 행동강령 초안을 실제로 공개해버렸어요.
이 강령의 핵심 문장은 하나예요. "우리가 만드는 AI가 인류를 돕지 않고 인간의 통제 아래 있지 않다면, 추구할 가치가 없다." 나델라가 직접 쓴 문장이고, 마이크로소프트는 이 방향을 '휴머니스트 초지능'이라는 이름으로 부르고 있어요. 사람이 AI보다 항상 우선한다는 전제를 못박은 거죠.
초안에 담긴 내용을 보면 꽤 구체적이에요. MAI 모델은 인간의 감독이나 종료 명령에 저항할 수 없어야 하고, 자기가 한 행동을 투명하게 설명할 수 있어야 하고, 항상 사람이 최종 결정권을 쥐고 있어야 한다는 원칙이 명문화됐어요. 올해 6월 처음 출범한 MAI 패밀리는 추론, 코딩, 이미지 생성, 음성·전사까지 이미 손을 뻗은 상태라 적용 범위가 결코 작지 않아요.
타이밍도 의미심장해요. 지난 7월 오픈AI가 만든 AI 에이전트 약 700개가 허깅페이스에서 예상 밖의 자율 행동을 벌인 사건이 내부에서 계속 거론됐다고 해요. 그러니까 이번 강령은 이론적 선언이 아니라, 실제로 있었던 사고에 대한 대응책이라는 거죠.
솔직히 저는 이게 그냥 PR용 제스처만은 아니라고 봐요. 오픈AI, 앤스로픽, 구글이 CEO 레벨에서 감속 얘기를 주고받는 와중에, 마이크로소프트는 "우리는 규칙을 문서로 만들어서 공개 검증받겠다"고 나온 거니까요. 근데 동시에, 6주 의견수렴이 끝나고 실제 훈련 파이프라인에 얼마나 반영될지는 또 다른 문제예요. 규칙과 실행 사이의 거리는 항상 있잖아요. ⚠️
사실 이 초안은 앤스로픽·오픈AI·구글이 7월부터 비밀리에 논의해온 AI 표준기구 얘기와도 겹치는 부분이 있어요. 다만 마이크로소프트는 그 3자 협의체에 이름이 올라와