오픈AI가 러시아發 챗GPT 여론조작 계정 클러스터를 적발해 차단했어요. 이스라엘 기반을 자처한 가짜 싱크탱크로 36개 기사 중 34개가 표절이었대요. 도달 범위는 작았지만, 정교한 위장 수법이라 업계가 주목하고 있어요.
오픈AI가 8월 27일 공개한 내용인데요, 러시아에서 운영된 것으로 추정되는 챗GPT 계정 클러스터를 적발해서 차단했다고 발표했어요. 이번 작전의 핵심은 '인터내셔널 버크 연구소(International Burke Institute, IBI)'라는 가짜 싱크탱크예요. 스스로를 이스라엘 기반 "전문가 커뮤니티"라고 소개했다고 하니, 위장이 꽤 치밀했던 셈이죠. 🕵️
운영 방식이 좀 흥미로운데요, 운영자들은 러시아어로 챗GPT에 프롬프트를 입력해서 영어로 된 소셜미디어 게시물을 대량으로 만들어냈어요. 그리고 이걸 서브스택, 텔레그램, X(트위터), 페이스북, 링크드인 등 여러 플랫폼에 뿌렸고요. 러시아에서는 챗GPT 접속이 막혀 있다 보니 VPN을 써서 우회 접속했다는 점도 눈에 띄어요. 오픈AI 쪽은 이 운영자들이 자기들이 러시아 출신이라는 언어적 단서를 감추라고 챗GPT에 직접 지시했다고 밝혔어요.
내용물 자체도 문제가 많았어요. 표본으로 뽑은 IBI 기사 36개 중 34개가 표절이었고, 일부는 프랜시스 후쿠야마나 노엄 촘스키 같은 유명 학자 이름을 갖다 붙인 것으로 드러났어요. 심지어 '주권 지수(sovereignty index)'라는 걸 만들어서 러시아는 우호적으로, 프랑스·독일·미국은 부정적으로 평가하는 콘텐츠까지 배포했다고 하고요. 📊
사실 이번 작전이 도달한 실제 청중 규모는 그리 크지 않았다고 해요. 근데 오픈AI가 굳이 이 사례를 콕 집어서 상세히 공개한 이유는 '구성의 정교함' 때문인 것 같아요. 우크라이나 전쟁 이후 오픈AI가 차단해온 러시아發 여론조작 작전 중에서도 이번처럼 가짜 기관 웹사이트에 학술적 외피까지 씌운 케이스는 드물었다고 하더라고요.
솔직히 이 뉴스 보면서 좀 소름 돋았던 게, AI 챗봇 하나로 '싱크탱크'라는 권위 있어 보이는 껍데기를 이렇게 쉽게 만들어낼 수 있다는 거였어요. 예전 같으면 가짜 연구소 하나 차리려면 사람도 여럿 필요하고 콘텐츠 생산 비용도 꽤 들었을 텐데, 이제는 챗GPT 계정 몇 개랑 VPN만 있으면 되는 시대가 된 거잖아요. 물론 오픈AI가 이번처럼 빠르게 잡아냈다는 건 긍정적이지만, 이런 작전이 계속 더 정교해지고 빈번해질 거라는 걱정도 동시에 들어요.
앞으로 이런 AI 기반 여론조작을 얼마나 빨리, 얼마나 촘촘하게 잡아낼 수 있을지가 플랫폼들의 진짜 실력을 가르는 기준이 될 것 같네요.
출처