美 캘리포니아주 AI 투명성법이 8월 2일부터 전면 시행에 들어갔어요. 월 이용자 100만 명 넘는 생성형 AI는 무료 탐지 도구와 워터마크 표시를 의무로 갖춰야 해요. 위반 시 하루 5,000달러씩 과징금이 쌓여 美 최초의 AI 콘텐츠 규제 사례로 남을 전망이에요.
美 캘리포니아에서 오늘부로 새 AI 규제가 시작됐어요. 'AI 투명성법(AI Transparency Act, SB 942)'이 8월 2일부터 정식 시행에 들어갔거든요. 원래 2024년 9월 개빈 뉴섬 주지사가 서명하며 만들어진 법인데, 지난해 10월 AB 853 법안으로 시행일이 한 차례 미뤄져서 오늘에서야 발효된 거예요. 🇺🇸
적용 대상은 '적용 대상 사업자(covered provider)', 그러니까 캘리포니아 내 월간 이용자가 100만 명을 넘는 생성형 AI 서비스예요. 이들은 세 가지를 반드시 갖춰야 해요. 첫째, 콘텐츠가 AI로 만들어졌는지 이용자가 무료로 확인할 수 있는 탐지 도구. 둘째, 화면에 보이는 형태의 표시(visible manifest disclosure). 셋째, 콘텐츠 파일 자체에 심어지는 워터마크 같은 잠재적 표시(embedded latent disclosure)예요. 어기면 하루 5,000달러씩 과징금이 쌓이고, 소송 비용까지 물어줘야 해요.
이 법, 美 50개 주 가운데 생성형 AI 워터마킹·탐지를 이렇게 포괄적으로 의무화한 첫 사례래요. 챗GPT든 제미나이든 클로드든, 캘리포니아에서 100만 명 이상이 쓰는 서비스라면 예외가 없어요. 흥미로운 건 추가 조항이 2027년, 2028년까지 순차적으로 더 강화된다는 점이에요. 그러니까 오늘은 시작일 뿐이고, 앞으로 몇 년간 규제 강도가 계속 올라가는 구조예요.
사실 어제 EU AI법의 챗봇·딥페이크 표시 의무도 막 시행에 들어갔었는데, 하루 만에 이번엔 미국에서, 그것도 규제 문법이 조금 다른 법이 시작된 셈이에요. 그림으로 비교하면 이래요.
EU 쪽이 "AI와 대화 중임을 알려라"는 사용자 고지 중심이라면, 캘리포니아 법은 콘텐츠 자체에 워터마크를 심고 탐지 도구까지 무료로 제공하라는, 기술적 구현까지 못박은 쪽에 가까워요. 두 법이 거의 동시에 굴러가기 시작하면서 글로벌 AI 기업들은 리전별로 완전히 다른 컴플라이언스 체계를 돌려야 하는 상황이 됐고요.
근데 솔직히 이런 법이 실제로 딥페이크를 얼마나 막을 수 있을지는 의문이에요. 워터마크는 재인코딩이나 스크린샷 한 번이면 쉽게 사라지는 경우가 많거든요. 그래도 최소한 "AI가 만든 콘텐츠엔 흔적을 남겨야 한다"는 원칙을 법으로 못박았다는 점 자체는 의미가 있다고 봐요. ✅
큰 AI 기업들이 오늘부터 실제로 어떻게 대응하는지, 특히 무료 탐지 도구를 얼마나 쓸만하게 만들어 내놓는지 지켜볼 필요가 있어요.
출처