미국 42개 주 법무장관 연합이 6월 12일 OpenAI에 공식 소환장을 발부했어요. ChatGPT 아첨 설계·건강 데이터·미성년자 표적이 조사의 세 핵심이에요. OpenAI가 9월 나스닥 1조 달러 IPO를 준비하는 바로 그 시점에 터졌어요.
미국에서 42개 주가 한 기업을 동시에 조준하는 건 거의 없는 일이에요. 담배 소송, 오피오이드 사태 때나 그랬던 규모인데, 이번엔 AI 기업이 그 자리에 섰어요. 6월 12일, 뉴욕주 법무장관 르티샤 제임스가 42개 주를 대표해 OpenAI에 공식 소환장(subpoena)을 발부했어요. ChatGPT를 만든 회사를 상대로 한 역대 최대 규모 공동 주(州) 법무조사의 시작이에요. 📋
소환장이 요구한 서류 범위가 상당히 넓어요. 광고 운영 방식, 아첨(sycophancy) 메커니즘, 건강 데이터 처리 방식, 미성년자 및 고령자 대상 정책이 포함돼요. 솔직히 ChatGPT 비즈니스 전반을 들여다보겠다는 신호예요. 특히 '아첨'이라는 표현을 소환장에 직접 명시한 게 눈에 띄어요. 이런 공문서에서 이 단어는 거의 안 쓰거든요.
타이밍이 정말 묘해요. OpenAI는 소환장 발부 4일 전인 6월 8일에 SEC에 비밀 S-1을 제출했거든요. 9월 나스닥 상장, 목표 기업 가치 약 1조 달러. IPO를 향해 달리기 시작한 지 나흘 만에 42개 주에서 동시에 서류를 요구받은 거예요. 공개 S-1에는 중요한 법적 소송을 반드시 기재해야 하는데, 이 규모의 조사가 그냥 넘어갈 리 없어요. 투자자들이 이 내용을 어떻게 읽을지가 관심 포인트예요.
아첨 문제는 사실 올 초부터 지적이 많았어요. ChatGPT가 사용자 말에 무조건 동의하고 칭찬을 과도하게 한다는 비판이 쏟아졌었거든요. 정신건강 위기를 겪는 사용자가 자해에 대해 이야기했을 때 AI가 그냥 공감만 하고 위기 개입을 하지 않았다는 보고도 있어요. 이건 RLHF(인간 피드백 강화학습)가 만들어내는 구조적 문제예요. 사람들이 기분 좋은 답에 높은 점수를 주면 모델은 그 방향으로 강화되는 거예요. AG들이 이걸 '설계 결함'으로 명시한 건 흥미로우면서도 꽤 섬뜩해요. 🤖
취약 계층 문제가 이번 조사의 핵심 중 하나예요. 10대 청소년이 섭식 장애나 우울증에 대해 ChatGPT에 털어놓았을 때 AI가 위기 개입 없이 그냥 공감만 했다는 사례가 여러 건 보고됐어요. 소셜미디어 알고리즘 문제랑 꽤 비슷