중국 정부가 AI 챗봇의 '인간 흉내'를 규제하는 새 법을 7월 15일부터 시행해요. 바이트댄스 더우바오, 알리바바 큐원 등이 미리 관련 기능을 껐어요. 감정 교감형 AI 말고 업무·상담용 AI만 남기겠다는 신호로 읽혀요.
중국 빅테크들이 갑자기 AI 챗봇에서 '사람 같은' 기능을 지우기 시작했어요. 블룸버그와 더 인포메이션 보도에 따르면, 바이트댄스의 더우바오(Doubao)는 사용자가 직접 커스터마이징하던 AI 페르소나·에이전트 기능을 7월 15일부로 오프라인 전환한다고 지난 금요일 공지했어요. 이유는 그냥 '제품 기능 조정'이라고만 밝혔는데, 사실상 규제 때문이라는 걸 다들 알고 있죠.
알리바바 큐원(Qwen)도 비슷해요. 사람처럼 대화하는 인터랙티브 에이전트 기능은 7월 10일에, 나머지 에이전트 기능 전반은 7월 15일에 순차적으로 꺼진다고 안내했고요. 텐센트의 위안바오(Yuanbao)는 이미 6월에 같은 기능을 없앴다고 해요. 세 회사 다 중국에서 제일 많이 쓰이는 챗봇 서비스들이라 파급력이 작지 않아요.
근거는 4월에 나온 규정
이 모든 움직임의 근거는 중국 국가인터넷정보판공실(CAC) 등 5개 부처가 4월에 공동으로 낸 'AI 의인화 상호작용 서비스 관리 임시조치'예요. 7월 15일부터 시행되는데, 규제 대상은 "인간의 성격·사고방식·소통 스타일을 흉내 내 지속적인 감정적 교감을 제공하는 서비스"로 정의돼 있어요. 반대로 고객상담 봇, 지식 Q&A, 업무 보조 도구는 지속적 감정 교감만 안 하면 규제 대상에서 빠진다고 해요.
왜 이렇게까지 하냐면, 당국이 내세운 이유가 극단주의 콘텐츠, 개인정보 침해, 정신건강 피해, 중독 문제예요. 미성년자 신원 확인이랑 중독 방지 시스템 도입도 요구 사항에 들어가 있고요. 사실 이런 문제 제기, 어느 나라에서나 한 번쯤 나오는 얘기잖아요. 근데 중국은 그냥 논의만 하는 게 아니라 마감일까지 못박아서 밀어붙인다는 게 다른 점인 것 같아요.
더우바오 케이스가 좀 더 독한데, 기능이 꺼지는 것뿐 아니라 10월 15일부터는 관련 대화 기록 자체를 앱 안에서 열람도, 복구도 못 하게 만든다고 해요. 인터페이스만 막는 게 아니라 데이터 레이어에서 아예 소비자용 '감정 교감' 흔적을 지우겠다는 의도로 보여요. 사용자들 사이에서는 대화 기록을 제대로 내보낼 방법도 없이 그냥 사라진다는 불만도 나오고 있고요.
솔직히 이 흐름을 보면 중국 정부가 뭘 원하는지가 꽤 명확해요. 업무 생산성 도구로서의 에이전트는 계속 키우되, 사람과 정서적으로 얽히는 '컴패니언 AI'는 확실히 눌러놓겠다는 거죠. 미국에서는 캐릭터닷AI 같은 서비스가 청소년 정신건강 문제로 소송에 휘말리는 와중에 자율 규제 쪽으로 가는 느낌이라면, 중국은 아예 법으로 선을 그어버리는 셈이에요.
개인적으로는 이게 단기적으로 사용자 이탈을 부를 수도 있다고 봐요. 감정적 교감 때문에 이 앱들을 쓰던 사람들이 꽤 있었을 텐데, 그 수요가 사라지는 게 아니라 규제 밖에 있는 다른 서비스로 옮겨갈 가능성도 있거든요. 반대로 회사 입장에선 법적 리스크를 확실히 줄이는 선택이니 나쁠 것도 없고요. 이 규제가 다른 나라 AI 정책에도 참고 사례가 될지, 아니면 중국만의 독특한 접근으로 남을지 궁금해지네요.
출처