미국의 한 엄마가 자녀와 부른 카레이오케 영상에 메타 AI 추천 질문이 떴어요. 클릭하자 아이 이름, 생일, 지웠던 사진까지 AI가 알아서 정리해 보여줬습니다. 수년간 흩어져 있던 개인정보를 AI가 순식간에 짜맞춘다는 사실이 논란이 됐어요.
솔직히 이런 이야기는 매번 나올 때마다 소름이 좀 돋아요. 미국의 한 콘텐츠 크리에이터 케일리 로빈스가 얼마 전 딸이랑 차 안에서 노래 부르는 영상을 페이스북에 올렸는데, 게시물 밑에 메타 AI가 알아서 이런 질문을 추천해뒀대요. “차에 타고 있는 아이는 누구인가요?” 별생각 없이 눌러봤더니, AI가 아이 이름이랑 생일, 심지어 할머니 계정에 있던 신생아 시절 사진, 로빈스 본인이 예전에 지웠다고 생각했던 사진까지 줄줄이 꺼내서 보여줬다고 해요.
이게 왜 무섭냐면, 사실 각각의 정보 자체는 새로 유출된 게 아니거든요. 다 예전부터 가족들이 몇 년에 걸쳐서 따로따로 올려둔 공개 게시물이었어요. 근데 메타 AI가 이 흩어진 조각들을 한 번에 훑고, 서로 다른 계정에 있던 사진이랑 이름, 생일을 연결해서 하나의 요약본으로 짜맞춘 거예요. 개별 게시물로 있을 때는 별문제 없어 보이던 정보가, AI가 모아놓는 순간 완전히 다른 위험이 된다는 걸 보여준 사례죠.
로빈스는 이 일을 겪고 나서 몇 년에 걸쳐 따로따로 올린 일상 조각들이 AI 손에 들어가면 몇 초 만에 미성년 자녀에 대한 정보로 조립될 수 있다는 걸 깨달았다고 말했어요. 그러면서 이건 받아들일 수 없다고 했고요. 지금은 자녀가 나온 사진과 영상을 다 지우기 시작했고, 가족이랑 친구들한테도 같은 걸 부탁하고 있다고 하더라고요.
이 사건이 퍼지자 온라인에서는 자녀 정보 보호를 두고 다시 한번 논쟁이 붙었어요. 몇몇 이용자들은 소송까지 언급할 정도로 격앙된 반응을 보였고요. 사실 메타 입장에서도 타이밍이 좋진 않아요. 최근 180억 달러 규모 합의 과정에서 자녀 데이터 관련 조항이 슬쩍 묻혀 들어갔다는 지적이 나온 지 얼마 안 됐거든요. 나이 확인을 AI로 처리하겠다는 계획도 함께 도마 위에 올라 있는 상황이라, 이번 사건이 그 불신에 기름을 부은 셈이에요.
근데 사실 이 문제, 메타만의 얘기는 아니에요. 요즘 나오는 거의 모든 AI 어시스턴트가 결국 사용자의 과거 데이터를 얼마나 잘 엮어내느냐로 성능을 뽐내잖아요. 검색이든 추천이든, 당신에 대해 이만큼 알고 있다는 걸 보여주는 게 곧 똑똑함의 증거처럼 여겨지는 거죠. 근데 그 대상이 스스로 동의한 적 없는 미성년자라면 얘기가 완전히 달라져요.
개인적으로는 이번 일이 단순 해프닝으로 끝날 것 같지 않아요. 부모들 사이에서 우리 애 사진, 지금이라도 다 내려야 하나 하는 불안이 실제로 퍼지고 있고, 플랫폼들도 조만간 미성년자 관련 정보를 AI가 요약하고 추천하는 기능에 별도 제한을 걸 수밖에 없을 것 같거든요. 규제 기관들이 이 사례를 어떻게 다룰지, 그리고 메타가 어떤 식으로 대응할지 지켜볼 필요가 있어요.
출처