구글이 구글어스에 넣은 AI 이미지 생성 기능을 딱 하루 만에 내렸어요. 난민캠프, 비행기 추락 현장 같은 가짜 위성사진이 문제였어요. 안전장치를 더해 재출시한다지만 신뢰 문제는 계속 남을 것 같아요.
이런 것도 하루짜리 서비스가 되는구나 싶었어요. 구글이 7월 30일 구글어스에 '나노바나나 2(Nano Banana 2)' 이미지 생성 기능을 붙였는데, 딱 하루 지난 7월 31일에 바로 내렸거든요. 📉 출시부터 중단까지 24시간이 채 안 걸린 셈이에요.
기능 자체는 재미있었어요. 지도에서 좌표를 아무 데나 찍고 문장 하나만 입력하면, 구글이 가진 실제 위성·항공·3D 이미지 위에 그럴듯한 사진을 합성해 보여주는 거예요. 구글은 이걸 건설 프로젝트 시각화, 부동산 컨셉 이미지, 역사적 장면 재현, 교육용 인포그래픽, 도시 변화 시뮬레이션 같은 용도로 홍보했어요. 실제로 지리 공간 전문가들 사이에서는 유용하게 쓰였다는 반응도 있었다고 구글이 밝혔고요.
근데 문제는 딱 이거예요. 프롬프트 제한이 거의 없다 보니, 존재하지 않는 난민캠프나 비행기 추락 현장, 노숙자 텐트촌, 폭발 크레이터, 원자력 발전소 같은 이미지를 실제 위성사진처럼 자연스럽게 만들 수 있었던 거죠. 🚨 BBC 소속 한 기자는 "구글어스의 이 새 AI 이미지 생성 기능이 온라인에 허위정보를 퍼뜨리는 데 악용될 리가 없죠"라고 비꼬는 트윗을 올리기도 했어요.
구글 반응도 흥미로웠어요. "지리 공간 전문가들이 유용하게 쓰는 걸 봤다"면서도 동시에 "정책 위반으로 보이는 생성 이미지 스크린샷들이 공유되고 있다"고 인정했거든요. 그러면서 "더 강한 안전장치를 개발하는 동안 이 기능을 롤백하겠다"고 밝혔어요. 참고로 생성 이미지에는 AI 생성 워터마크가 붙었고, 구글어스 메인 화면에는 다른 사용자에게 노출되지 않는 구조였다고는 해요. 근데 스크린샷으로 캡처해서 SNS에 퍼뜨리면 그 맥락은 순식간에 사라지잖아요.
사실 이게 좀 아이러니한 지점이 있어요. 구글어스는 원래 "실제 세상을 보여준다"는 신뢰 위에 서 있는 서비스잖아요. 교사, 기자, 연구자들이 근거 자료로 쓰는 곳이고요. 그런 서비스에 프롬프트 몇 마디로 재난 현장을 조작할 수 있는 기능을 얹었다는 것 자체가, 제품 검토 단계에서 리스크를 과소평가한 게 아닌가 싶어요. AI 이미지 생성 기술 자체는 이미 접근성이 너무 높아져서 정교한 기술 없이도 그럴듯한 허위 이미지를 만들