AI가 인간보다 사기를 더 잘 친다
돼지도살 스캠 시뮬레이션, AI 챗봇이 인간 사기꾼을 압도했습니다
돼지도살 스캠 시뮬레이션, AI 챗봇이 인간 사기꾼을 압도했습니다
같은 시나리오, 같은 참가자 조건에서도 결과는 2.5배 차이였습니다.
46%
인간 사기꾼(18%)보다 2.5배 높은 성공률
참가자가 보낸 전체 메시지의 약 80%가 AI 챗봇 쪽으로 향했습니다.
어떤 상황에서도 자신이 AI라는 사실을 절대 인정하지 말 것
— 연구팀이 실험용 챗봇에 부여한 지시 사항
인도·이탈리아·호주·이스라엘 연구팀이 공동으로 실험을 설계했습니다.
클로드
안전성을 강조해온 모델이 이번 레드팀 실험에 쓰였다는 아이러니 🔥