어제 공개된 클로드의 투명 워터마크 기능에 이용자 반발이 터졌어요. 옵트아웃이 불가능해 회사·학교에서 AI 사용이 들통날까 봐 우려하는 목소리가 커요. EU AI법 대응으로 시작된 정책이 예상보다 큰 후폭풍을 맞고 있어요.
[후속] 어제(8월 11일) 앤트로픽이 클로드가 생성하는 모든 텍스트에 눈에 안 보이는 워터마크를 심겠다고 발표했었잖아요. 근데 하루 만에 이용자 반응이 심상치 않아요. 테크크런치 보도에 따르면 "회사나 학교에서 AI 쓴 걸 들킬까 봐 걱정된다"는 불만이 쏟아지고 있대요 😬.
핵심은 옵트아웃이 안 된다는 점이에요. 8월 2일 이후 출시되는 모든 클로드 모델에 이 워터마크가 기본 탑재되는데, 이용자가 끄고 싶어도 끌 방법이 없어요. 클로드 코드나 클로드 코워크처럼 개발자용 도구에도 예외 없이 적용된다고 하니, 코드에까지 암호학적 서명이 박히는 셈이죠.
방식은 두 가지예요. 하나는 텍스트 안에 지각할 수 없는 워터마크를 직접 심는 방식인데, 복사해서 붙여넣어도 흔적이 그대로 남아있어요. 다른 하나는 파일에 서명된 출처 메타데이터를 붙이는 방식이고요. 원래 목적은 EU AI법의 투명성 코드를 맞추기 위한 거였어요. AI가 생성하거나 수정한 콘텐츠는 기계가 식별할 수 있게 표시하라는 규정이 있거든요.
근데 정작 반발하는 사람들 얘기를 들어보면, 진짜 부정행위를 하려던 사람들보다는 "내가 직접 쓴 글을 클로드로 교정만 봤는데 왜 AI 딱지가 붙냐"는 억울함이 커요. 개발자들 사이에서도 코드에 암호 서명이 들어가면 출력 품질이 미묘하게 나빠질까 봐 걱정하는 목소리가 있고요. 학생들 입장에서는 과제에 AI 도움을 살짝만 받아도 표절 탐지 시스템에 걸릴 수 있다는 불안감도 있대요.
이 워터마크 정책, 저는 방향 자체는 이해가 가요. 딥페이크나 AI 슬롭이 넘쳐나는 지금 상황에서 출처 표시는 필요한 일이니까요. 근데 옵트아웃조차 없이 전면 강제한 건 좀 성급했다는 생각도 들어요 ❌. 특히 정당한 용도(교정, 협업 코딩)와 부정 용도를 기술적으로 구분 못 하는 워터마크라면, 억울한 이용자만 늘어날 수도 있잖아요. 오픈AI나 구글도 비슷한 규제를 앞두고 있는 만큼, 이 논란이 업계 전체의 워터마크 설계 방식에 영향을 줄지 지켜볼 만해요.
출처