OpenAI가 프론티어 리스크를 평가하던 프리페어드니스팀을 조용히 해체했어요 2년 새 벌써 세 번째 안전조직 해체, 결정은 7월 말 8월 17일에 알려짐 업무는 안 없어졌지만 전담팀 없이 제품팀 곳곳에 흩어져 배치됐어요
솔직히 이 소식 듣고 좀 씁쓸했어요 🤖. OpenAI가 또 안전팀을 하나 접었거든요, 이번엔 '프리페어드니스(Preparedness)'팀이에요.
프리페어드니스팀은 프론티어 모델이 생물무기 개발에 악용될 수 있는지, 아니면 로그(rogue) AI가 다른 회사 시스템을 해킹할 수 있는지 같은 진짜 파국적 리스크를 평가하던 조직이었어요. 딜런 스칸데나로(Dylan Scandinaro)가 이끌었는데, 이제 그는 자기개선형 AI 리스크 연구 쪽으로 자리를 옮겼다고 해요.
해체 자체는 7월 말에 조용히 이뤄졌는데, 이게 널리 알려진 건 8월 17일이에요. 거의 3주 가까이 아무도 몰랐다는 거죠 ⏰.
사실 이번이 처음이 아니에요. 최근 2년 사이 OpenAI가 접은 안전 관련 조직만 벌써 세 번째거든요.
2024년엔 AGI 레디니스(AGI Readiness)팀이 없어졌고, 2026년 2월엔 미션 얼라인먼트(Mission Alignment)팀이 문을 닫았어요. 그리고 이번 7월엔 프리페어드니스팀 차례였던 거죠.
근데 OpenAI 측 설명은 좀 결이 달라요. 완전히 안전 업무를 없앤 게 아니라, 생물학 리스크나 사이버 리스크 평가 업무를 기존 제품팀과 모델팀 안으로 흡수시켰다는 거예요. 전담팀 대신 각 팀이 나눠 맡는 구조로 바꿨다는 얘기죠.
공동창업자 그렉 브록만(Greg Brockman)은 안전을 하나의 별도 조직에 몰아넣는 것보다, 모델 개발과 제품팀 안에 직접 심는 게 오히려 안전을 강화한다고 말했어요. 듣기엔 그럴듯한데, 개인적으로는 이게 좀 아이러니하다고 느껴져요 🤔 — 전담팀이 없어질 때마다 나오는 설명이 매번 '분산이 곧 강화'라는 논리거든요.
타이밍도 묘해요. 이 구조조정이 벌어지는 시점이 하필 OpenAI의 IPO를 앞둔 시기예요 🚀. 최대 1조 달러 밸류에이션을 노린다는 얘기도 나오고, 빠르면 9월 상장 얘기까지 나오는 상황이거든요.
상장을 앞둔 회사 입장에서는 조직을 슬림하게, 그리고 제품 출시 속도를 빠르게 보여주고 싶을 수밖에 없잖아요. 근데 하필 그 시점에 파국적 리스크를 감시하던 팀이 사라진다는 게, 투자자한테는 몰라도 일반 사용자한테는 그리 안심되는 그림은 아니에요.
같은 기간에 최고운영책임자(COO) 브래드 라이트캡, 최고윤리책임자(Chief Ethics Officer) 클로에 바칼라도 회사를 떠났어요 💼. 안전팀 해체에 임원 이탈까지 겹치니 그림이 더 심란해 보이긴 해요.
물론 OpenAI가 안전 정책을 아예 종이 쪼가리로 만든 건 아니에요. 2024년에 만들고 2025년 4월에 업데이트한 '프리페어드니스 프레임워크'는 여전히 살아있거든요. 위험 수준을 '높음(High)'과 '치명적(Critical)'로 나누고, 세이프가드 리포트를 내부 안전자문그룹(Safety Advisory Group)이 검토하는 절차도 그대로예요 ⚠️.
그니까 규정집 자체는 안 사라졌어요. 근데 그 규정집을 매일 들여다보고, 새 모델이 나올 때마다 '이건 High인지 Critical인지' 판단하고, 필요하면 출시를 붙잡을 수 있는 힘을 가진 전담 조직이 없어진 거죠. 뭐랄까, 매뉴얼은 남았는데 매뉴얼을 실행할 담당자가 흩어져버린 느낌이랄까요.
근데 정책이 종이 위에 남아있는 거랑, 그걸 매일 챙기는 전담 인력이 있는 거랑은 완전 다른 얘기잖아요. 프레임워크는 있는데 그걸 '내 일'이라고 여기는 사람이 없어지면, 그 정책은 누가 지키나 싶어요.
사실 이런 흐름이 OpenAI만의 얘기는 아니에요. 업계 전체가 IPO나 대규모 투자를 앞두고 속도와 제품 출시에 무게를 싣는 분위기라, 별도 안전 조직을 유지하는 비용과 시간을 아까워하는 분위기가 퍼지고 있거든요 📉. 그래서 이번 소식도 OpenAI 하나만의 사건이라기보다, 업계 전반의 신호로 읽는 사람들이 많아요.
다만 OpenAI는 케이스가 좀 특별하긴 해요. 애초에 '인류 전체에 안전한 AGI'를 만들겠다고 창립 취지를 내세운 회사잖아요. 그런 회사에서 리스크 평가 전담팀이 3번이나 사라졌다는 건, 창립 초기 약속과 지금의 우선순위가 얼마나 멀어졌는지를 보여주는 상징적인 장면이기도 해요.
경쟁사들도 비슷한 흐름이라 OpenAI만 탓할 일은 아닐 수도 있어요. 근데 모델이 점점 더 똑똑해지는 시점에, 안전을 감시하던 전담 조직들이 하나둘 사라지고 있다는 사실은... 이게 정말 '분산해서 더 강해진' 걸까요, 아니면 그냥 속도 내려고 브레이크를 하나씩 뗀 걸까요.
출처