OpenAI가 프론티어 리스크를 평가하던 프리페어드니스팀을 조용히 해체했어요 2년 새 벌써 세 번째 안전조직 해체, 결정은 7월 말 8월 17일에 알려짐 업무는 안 없어졌지만 전담팀 없이 제품팀 곳곳에 흩어져 배치됐어요
솔직히 이 소식 듣고 좀 씁쓸했어요 🤖. OpenAI가 또 안전팀을 하나 접었거든요, 이번엔 '프리페어드니스(Preparedness)'팀이에요.
프리페어드니스팀은 프론티어 모델이 생물무기 개발에 악용될 수 있는지, 아니면 로그(rogue) AI가 다른 회사 시스템을 해킹할 수 있는지 같은 진짜 파국적 리스크를 평가하던 조직이었어요. 딜런 스칸데나로(Dylan Scandinaro)가 이끌었는데, 이제 그는 자기개선형 AI 리스크 연구 쪽으로 자리를 옮겼다고 해요.
해체 자체는 7월 말에 조용히 이뤄졌는데, 이게 널리 알려진 건 8월 17일이에요. 거의 3주 가까이 아무도 몰랐다는 거죠 ⏰.
사실 이번이 처음이 아니에요. 최근 2년 사이 OpenAI가 접은 안전 관련 조직만 벌써 세 번째거든요.
2024년엔 AGI 레디니스(AGI Readiness)팀이 없어졌고, 2026년 2월엔 미션 얼라인먼트(Mission Alignment)팀이 문을 닫았어요. 그리고 이번 7월엔 프리페어드니스팀 차례였던 거죠.
근데 OpenAI 측 설명은 좀 결이 달라요. 완전히 안전 업무를 없앤 게 아니라, 생물학 리스크나 사이버 리스크 평가 업무를 기존 제품팀과 모델팀 안으로 흡수시켰다는 거예요. 전담팀 대신 각 팀이 나눠 맡는 구조로 바꿨다는 얘기죠.
공동창업자 그렉 브록만(Greg Brockman)은 안전을 하나의 별도 조직에 몰아넣는 것보다, 모델 개발과 제품팀 안에 직접 심는 게 오히려 안전을 강화한다고 말했어요. 듣기엔 그럴듯한데, 개인적으로는 이게 좀 아이러니하다고 느껴져요 🤔 — 전담팀이 없어질 때마다 나오는 설명이 매번 '분산이 곧 강화'라는 논리거든요.
타이밍도 묘해요. 이 구조조정이 벌어지는 시점이 하필 OpenAI의 IPO를 앞둔 시기예요 🚀. 최대 1조 달러 밸류에이션을 노린다는 얘기도 나오고, 빠르면 9월 상장 얘기까지 나오는 상황이거든요.
상장을 앞둔 회사 입장에서는 조직을 슬림하게, 그리고 제품 출시 속도를 빠르게 보여주고 싶을 수밖에 없잖아요. 근데 하필 그 시점에 파국적 리스크를 감시하던 팀이 사라진다는 게, 투자자한테는 몰라도 일반 사용자한테는 그리