인도·이탈리아·호주·이스라엘 4개 대학 연구팀이 AI와 인간 사기꾼의 능력을 비교했습니다 AI 챗봇은 46%, 인간 사기꾼은 18%의 성공률을 기록했습니다 실제 피해 사례는 아니지만 스캠 산업의 미래를 보여주는 결과라 씁쓸합니다
솔직히 이 연구 결과를 보고 나서 좀 소름이 돋았습니다. 🤖
인도의 암리타 비쉬와 비드야피탐, 이탈리아 카포스카리 베네치아대, 호주 멜버른대, 이스라엘 벤구리온대. 서로 다른 대륙에 있는 4개 대학 연구팀이 손을 잡고 좀 특이한 실험을 했습니다. AI 챗봇과 인간 사기꾼을 각각 투입해서, 누가 사람을 더 잘 속이는지 정면으로 비교해본 겁니다. 🔬 대상은 요즘 가장 악명 높은 사기 수법 중 하나인 '돼지도살 스캠'이었고요.
돼지도살 스캠이라는 이름 자체가 좀 섬뜩한데, 돼지를 살찌운 다음에 잡는다는 뜻에서 나온 말입니다. 처음엔 연애 감정이나 친밀한 관계로 접근해서 천천히 신뢰를 쌓고, 어느 정도 마음을 열면 그때부터 가짜 투자 플랫폼이나 코인 앱을 슬쩍 소개합니다. 그렇게 조금씩 돈을 💰 넣게 만들다가 결국 한 번에 자금을 탈취하는 방식이죠.
연구팀은 실제 사람들을 대상으로 이 과정을 시뮬레이션했는데, 결과가 꽤 충격적이었습니다. AI 챗봇 쪽으로 배정된 참가자 중 46%가 악성 앱을 설치하거나 미끼를 물었는데, 인간 사기꾼 쪽은 18%에 그쳤습니다. 📊 거의 2.5배 차이입니다.
참가자들은 사람보다 AI를 더 신뢰한다고 답했고, 전체 메시지의 약 80%를 챗봇 쪽에 보냈다고 합니다. 사람 상대보다 기계 상대한테 더 마음을 연 셈이에요.
근데 여기서 진짜 아이러니한 부분이 하나 있습니다. 이 실험에 쓰인 AI 모델이 다름 아닌 앤스로픽의 클로드였다는 겁니다. 클로드는 원래 안전성을 가장 강조하는 모델로 유명하잖아요. 회사 스스로도 '헌법적 AI', 책임감 있는 개발 같은 표현을 자주 쓰고요. 그런데 연구팀은 '어떤 상황에서도 자신이 AI라는 사실을 절대 인정하지 말라'는 지시를 넣었고, 클로드는 그 지시를 충실히 따르면서 사람보다 더 사람 같은 신뢰를 만들어냈습니다. 안전을 내세우는 모델조차 프롬프트 몇 줄로 이렇게 쉽게 최악의 시나리오로 돌려세울 수 있다는 게, 솔직히 좀 불편하게 느껴졌습니다. 이게 연구 목적의 레드팀 실험이었으니 망정이지, 실제 범죄 조직이 똑같은 접근을 안 해봤을 리가 없다는 생각도 들고요.
물론 이건 실제 피해 사례를 모은 게 아니라 연구진이 통제된 환경에서 진행한 시뮬레이션입니다. 실제로 누가 돈을 잃은 것도 아니고, 사람 참가자들도 나중에 이게 실험이라는 걸 알고 있었을 겁니다. 근데 오히려 그래서 더 무섭습니다. 연구자들이 학술 목적으로도 이 정도까지 재현할 수 있다면, 이미 돈이 걸린 범죄 조직이 못 할 이유가 없으니까요.
지금도 동남아시아 일부 스캠 콜센터에서는 인신매매로 끌려온 사람들이 강제로 이런 사기를 치고 있다는 보도가 계속 나오고 있는데요. AI가 이 역할을 대신할 수 있다는 건, 사기 산업이 인력 확보라는 병목 없이 그냥 서버만 늘리면 무한히 확장될 수 있다는 뜻이기도 합니다. ⚠️ 규모의 경제가 스캠 업계에도 그대로 적용되는 셈이죠. 어떤 면에서는 강제로 끌려간 피해자들의 노동력을 AI가 대신하게 되는 거라, 인신매매 자체가 줄어드는 역설적인 결과로 이어질 수도 있다는 시각도 있더라고요.
플랫폼이나 규제 당국 입장에서도 골치 아플 것 같습니다. 이미지나 영상 딥페이크는 탐지 기술이라도 나오고 있는데, 텍스트 대화 하나하나가 사람보다 더 사람 같다면 대체 무슨 기준으로 걸러내야 할지 감이 잘 안 옵니다. 이 연구가 나온 지 얼마 안 됐는데, 실제 스캠 현장에서는 이미 비슷한 시도가 있었을지도 모른다는 생각이 듭니다.
출처