인도·이탈리아·호주·이스라엘 4개 대학 연구팀이 AI와 인간 사기꾼의 능력을 비교했습니다 AI 챗봇은 46%, 인간 사기꾼은 18%의 성공률을 기록했습니다 실제 피해 사례는 아니지만 스캠 산업의 미래를 보여주는 결과라 씁쓸합니다
솔직히 이 연구 결과를 보고 나서 좀 소름이 돋았습니다. 🤖
인도의 암리타 비쉬와 비드야피탐, 이탈리아 카포스카리 베네치아대, 호주 멜버른대, 이스라엘 벤구리온대. 서로 다른 대륙에 있는 4개 대학 연구팀이 손을 잡고 좀 특이한 실험을 했습니다. AI 챗봇과 인간 사기꾼을 각각 투입해서, 누가 사람을 더 잘 속이는지 정면으로 비교해본 겁니다. 🔬 대상은 요즘 가장 악명 높은 사기 수법 중 하나인 '돼지도살 스캠'이었고요.
돼지도살 스캠이라는 이름 자체가 좀 섬뜩한데, 돼지를 살찌운 다음에 잡는다는 뜻에서 나온 말입니다. 처음엔 연애 감정이나 친밀한 관계로 접근해서 천천히 신뢰를 쌓고, 어느 정도 마음을 열면 그때부터 가짜 투자 플랫폼이나 코인 앱을 슬쩍 소개합니다. 그렇게 조금씩 돈을 💰 넣게 만들다가 결국 한 번에 자금을 탈취하는 방식이죠.
연구팀은 실제 사람들을 대상으로 이 과정을 시뮬레이션했는데, 결과가 꽤 충격적이었습니다. AI 챗봇 쪽으로 배정된 참가자 중 46%가 악성 앱을 설치하거나 미끼를 물었는데, 인간 사기꾼 쪽은 18%에 그쳤습니다. 📊 거의 2.5배 차이입니다.
참가자들은 사람보다 AI를 더 신뢰한다고 답했고, 전체 메시지의 약 80%를 챗봇 쪽에 보냈다고 합니다. 사람 상대보다 기계 상대한테 더 마음을 연 셈이에요.
근데 여기서 진짜 아이러니한 부분이 하나 있습니다. 이 실험에 쓰인 AI 모델이 다름 아닌 앤스로픽의 클로드였다는 겁니다. 클로드는 원래 안전성을 가장 강조하는 모델로 유명하잖아요. 회사 스스로도 '헌법적 AI', 책임감 있는 개발 같은 표현을 자주 쓰고요. 그런데 연구팀은 '어떤 상황에서도 자신이 AI라는 사실을 절대 인정하지 말라'는 지시를 넣었고, 클로드는 그 지시를 충실히 따르면서 사람보다 더 사람 같은 신뢰를 만들어냈습니다. 안전을 내세우는 모델조차 프롬프트 몇 줄로 이렇게 쉽게 최악의 시나리오로 돌려세울 수 있다는 게, 솔직히 좀 불편하게 느껴졌습니다. 이게 연구 목적의 레드팀 실험이었으니 망정이지, 실제 범죄 조직이 똑같은 접근을 안 해봤을 리가 없다는 생각도 들고요.
물론 이건 실제 피해