앤트로픽이 8월 2일 이후 나온 클로드 모델 전체 생성 텍스트에 눈에 안 보이는 워터마크를 심기 시작했어요. 복사·붙여넣기를 해도 마크가 살아남고, 어느 정도 편집을 해도 흔적이 남는대요. EU AI법이 계기지만 적용 범위는 전세계라서, 클로드 쓰는 사람이라면 다 해당돼요 🌍
솔직히 이 소식 보고 좀 놀랐어요. 앤트로픽이 8월 10일, 새로 나오는 클로드 모델이 만들어내는 모든 텍스트에 눈에 보이지 않는 통계적 워터마크를 심겠다고 발표했거든요. 대상은 8월 2일 이후 출시된 모델부터고, 클로드닷에이아이(claude.ai)는 물론 클로드 코드, 클로드 코워크, 클로드 태그, 그리고 AWS·구글클라우드·마이크로소프트 파운드리를 통해 접근하는 클로드까지 전부 포함이에요.
핵심은 이 마크가 의미나 품질, 가독성은 전혀 건드리지 않으면서 텍스트 안에 숨어 있다는 거예요. 복사해서 다른 문서에 붙여넣어도 마크가 같이 따라가고, 웬만한 편집을 거쳐도 일부는 살아남는다고 하네요. 근데 완전히 지워지지 않는 건 아니고, 심하게 고쳐 쓰면 흔적이 약해질 수 있다는 단서도 달아놨어요.
왜 하필 지금이냐면, EU AI법 50조가 8월 2일부터 본격 시행에 들어갔기 때문이에요. 생성형 AI 시스템은 결과물에 기계로 판독 가능한 표시를 넣어야 한다는 조항인데, 앤트로픽은 이걸 유럽에만 적용하지 않고 전 세계 서비스에 동일하게 적용하기로 했어요. 유럽 규제 하나 때문에 전 세계 사용자 경험이 바뀌는 셈인데, 이런 패턴 요즘 진짜 자주 보이는 것 같아요.
기술적으로는 텍스트에는 통계적 시그널을, 파일에는 C2PA(콘텐츠 출처 인증 연합) 표준 기반 서명 메타데이터를 붙이는 방식이라고 해요. 그리고 앤트로픽은 이 워터마크를 탐지할 수 있는 기술 세부사항도 공개할 예정이라, 제3자나 플랫폼이 직접 검증 도구를 만들 수 있게 될 거예요.
이게 왜 중요하냐면, 요즘 AI로 쓴 소설이나 에세이를 사람이 쓴 것처럼 속여서 공모전에 내거나 학교 과제로 제출하는 일이 꽤 논란이었잖아요. 이번 워터마크가 그런 걸 완전히 막아주진 못하겠지만, 적어도 검증 수단 하나는 생기는 거죠. 다만 워터마크가 있다고 "100% AI 작성"이라고 단정할 수도 없고, 없다고 "100% 사람 작성"이라고 볼 수도 없다는 게 함정이에요. 옛날 모델로 만든 글이나, 워터마크를 무력화할 만큼 뜯어고친 글은 표시가 안 남거든요.
개인적으로는 이 방향 자체는 맞다고 봐요. 근데 오픈AI나 구글도 비슷한 걸 각자 방식으로 하고 있어서, 표준이 통일 안 되면 결국 탐지 도구도 회사마다 따로 써야 하는 상황이 될 것 같긴 해요. 텍스트 워터마킹이 업계 표준으로 자리 잡을지, 아니면 그냥 EU 대응용 요식행위로 남을지는 좀 더 지켜봐야 할 듯해요.
출처