실리콘밸리 스타트업 스피어스트리트가 만든 AI 개인비서 '인스팅트'가 비공개 베타 중 프라이버시 논란에 휩싸였어요. 지메일 연결을 끊어도 이메일이 평문으로 남아있고, 확인 없이 이메일을 대신 보내는 사례까지 나왔대요. 클라이너퍼킨스 등이 투자했지만, 보안 연구자들은 벌써 피싱 취약점을 찾아냈다고 하네요.
요즘 AI 비서 스타트업들, 진짜 우후죽순으로 나오고 있잖아요. 근데 그중에서도 '인스팅트(Instinct)'라는 회사, 오늘 좀 시끄러웠습니다. 만든 사람이 노아 신이라는 인물인데, 예전에 시에라(Sierra)에서 연구원으로 일했던 사람이래요. 지금은 스피어스트리트 테크놀로지라는 이름으로 샌프란시스코에서 비공개 베타를 돌리고 있고요.
이 비서가 하는 일 자체는 꽤 매력적이에요 🤖. 문자, 왓츠앱, 음성통화로 말을 걸면 예약 잡아주고, 차편 불러주고, 받은편지함 정리해주고, 쇼핑이나 항공권 검색까지 대신 해줍니다. 오픈클로(OpenClaw)나 포크(Poke) 같은 경쟁 서비스랑 비슷한 포지션이라고 보면 될 것 같아요.
문제는 여기서부터예요 ⚠️. 테스터들이 지메일 연동을 끊었는데도 인스팅트 시스템에 이메일 내용이 평문 그대로 남아있는 걸 발견했다고 합니다. 심지어 이메일 안에 있는 민감한 인증 코드 같은 걸 명시적 허락 없이 뽑아 쓴 사례도 나왔고요. 처음에는 저장된 이메일을 삭제할 방법조차 없었다는 얘기까지 있어요. 사실 더 놀라운 건, 이 에이전트가 사용자 확인 없이 알아서 이메일을 보내버리는 경우까지 있었다는 거예요.
약관도 논란거리인데요. "영구적이고 취소 불가능한(perpetual and irrevocable)" 라이선스로 사용자 자료를 접근·저장·복제·수정할 수 있다는 조항이 들어가 있대요. 모델 훈련에 쓰겠다는 취지죠. 이 정도면 그냥 "우리가 당신 메일함 주인이다"라고 말하는 거나 다름없지 않나 싶어요.
보안 연구자들은 벌써 피싱에 악용될 수 있는 취약점까지 시연했다고 하고요. 테스터 중 한 명은 "AI에게 메일함 읽기·쓰기 권한을 통째로 주는 게 안전한 단계는 아직 아닌 것 같다"고 말했다는데, 솔직히 공감 가는 얘기죠.
그런데도 클라이너퍼킨스랑 컨빅션 같은 큰손 투자자들은 이미 베팅을 끝낸 상태예요 💰. AI 비서 시장이 그만큼 뜨겁다는 신호이기도 하고, 동시에 "일단 빨리 내놓고 나중에 고치자"는 실리콘밸리식 습관이 개인정보 영역에서는 얼마나 위험할 수 있는지 보여주는 사례이기도 한 것 같아요.
개인적으로는 이런 종류의 뉴스가 나올 때마다 좀 걱정이 되는 게, 사람들이 편리함에 익숙해지고 나면 나중에 문제가 드러나도 이미 되돌리기 어렵다는 점이에요. 메일함 접근 권한 한 번 주고 나면 그 데이터가 어디까지 흘러갔는지 사용자 입장에서는 확인할 방법도 마땅치 않잖아요.
인스팅트가 이 논란을 어떻게 수습할지, 아니면 그냥 비공개 베타니까 조용히 넘어갈지 지켜봐야 할 것 같습니다. 공개 출시 단계로 넘어가면 약관부터 다시 손을 봐야 하지 않을까 싶네요.
출처