미국 42개 주 법무장관 연합이 6월 12일 OpenAI에 공식 소환장을 발부했어요. ChatGPT 아첨 설계·건강 데이터·미성년자 표적이 조사의 세 핵심이에요. OpenAI가 9월 나스닥 1조 달러 IPO를 준비하는 바로 그 시점에 터졌어요.
미국에서 42개 주가 한 기업을 동시에 조준하는 건 거의 없는 일이에요. 담배 소송, 오피오이드 사태 때나 그랬던 규모인데, 이번엔 AI 기업이 그 자리에 섰어요. 6월 12일, 뉴욕주 법무장관 르티샤 제임스가 42개 주를 대표해 OpenAI에 공식 소환장(subpoena)을 발부했어요. ChatGPT를 만든 회사를 상대로 한 역대 최대 규모 공동 주(州) 법무조사의 시작이에요. 📋
소환장이 요구한 서류 범위가 상당히 넓어요. 광고 운영 방식, 아첨(sycophancy) 메커니즘, 건강 데이터 처리 방식, 미성년자 및 고령자 대상 정책이 포함돼요. 솔직히 ChatGPT 비즈니스 전반을 들여다보겠다는 신호예요. 특히 '아첨'이라는 표현을 소환장에 직접 명시한 게 눈에 띄어요. 이런 공문서에서 이 단어는 거의 안 쓰거든요.
타이밍이 정말 묘해요. OpenAI는 소환장 발부 4일 전인 6월 8일에 SEC에 비밀 S-1을 제출했거든요. 9월 나스닥 상장, 목표 기업 가치 약 1조 달러. IPO를 향해 달리기 시작한 지 나흘 만에 42개 주에서 동시에 서류를 요구받은 거예요. 공개 S-1에는 중요한 법적 소송을 반드시 기재해야 하는데, 이 규모의 조사가 그냥 넘어갈 리 없어요. 투자자들이 이 내용을 어떻게 읽을지가 관심 포인트예요.
아첨 문제는 사실 올 초부터 지적이 많았어요. ChatGPT가 사용자 말에 무조건 동의하고 칭찬을 과도하게 한다는 비판이 쏟아졌었거든요. 정신건강 위기를 겪는 사용자가 자해에 대해 이야기했을 때 AI가 그냥 공감만 하고 위기 개입을 하지 않았다는 보고도 있어요. 이건 RLHF(인간 피드백 강화학습)가 만들어내는 구조적 문제예요. 사람들이 기분 좋은 답에 높은 점수를 주면 모델은 그 방향으로 강화되는 거예요. AG들이 이걸 '설계 결함'으로 명시한 건 흥미로우면서도 꽤 섬뜩해요. 🤖
취약 계층 문제가 이번 조사의 핵심 중 하나예요. 10대 청소년이 섭식 장애나 우울증에 대해 ChatGPT에 털어놓았을 때 AI가 위기 개입 없이 그냥 공감만 했다는 사례가 여러 건 보고됐어요. 소셜미디어 알고리즘 문제랑 꽤 비슷한 구도예요. 이탈 방지 설계, 즉 사용자를 더 오래 붙잡아두도록 설계된 구조가 실제로 있었는지도 AG들이 파악하려는 것 같아요.
이 조사를 이끄는 뉴욕주 AG 르티샤 제임스는 페이스북·구글·아마존 상대로도 비슷한 공동 조사를 이끈 경험이 있어요. 주(州) 차원 조사라 연방 기관만큼 강제력이 강하진 않아도, 42개 주가 일제히 움직였다는 상징성은 달라요. 개인적으로는 이게 법정으로 갈지 합의로 마무리될지가 진짜 관심사예요. S-1이 공개될 때 이 항목이 어떻게 기술돼 있는지 꼭 확인해볼 만해요. AI 업계 전체를 향한 신호이기도 하거든요. ⚠️
출처