애플이 AI가 만들어낸 부정확한 버그 제보 폭주에 신고 건수 상한을 걸었어요. 30일 냉각기가 새로 도입됐고, 연구자는 상향 요청을 할 수 있어요. 실제로 20만 달러급 진짜 취약점이 묻힐 뻔한 사례까지 나왔어요.
이거 좀 아이러니한 소식이에요. AI가 버그를 더 잘 찾아준다고 다들 좋아했는데, 정작 그 AI 때문에 애플의 버그 신고 시스템이 마비될 지경이 됐다는 거예요. 파이낸셜타임스(FT) 보도에 따르면 애플은 최근 피드백 어시스턴트(Feedback Assistant)에 제출 건수 상한과 30일 냉각기를 도입했어요. 이유는 간단해요, AI가 대충 만들어낸 이른바 'AI 슬롭(slop)' 제보가 너무 많이 쌓였거든요.
근데 이게 그냥 스팸 수준이 아니에요. 챗GPT 같은 생성형 AI 도구로 코드를 스캔시키면 그럴듯한 취약점 보고서가 술술 나오는데, 문제는 상당수가 실제로는 존재하지 않는 '환각(hallucination)' 취약점이라는 거예요. 애플 보안팀 입장에서는 이걸 하나하나 걸러내는 데 시간과 인력을 갈아넣어야 하니, 진짜 심각한 버그를 찾아낼 여력이 오히려 줄어드는 역설이 생긴 거죠.
실제로 이 때문에 진짜 취약점이 묻힐 뻔한 사례도 나왔어요. 이탈리아 스타트업 바이나리오(Bynario)는 챗GPT를 활용해서 macOS의 심각한 취약점을 하나 찾아냈는데, 공격자가 기기를 완전히 장악할 수 있는 수준이었대요. 암시장 가치로 치면 10만~20만 달러(약 1억 4천만~2억 8천만 원)짜리였다는데, 정작 애플이 추가 제보를 막아놓은 상태라 이걸 정식으로 신고조차 못 했다는 거예요. 아이러니하죠, AI 때문에 막힌 문을 AI로 찾은 취약점이 두드리지 못한 셈이니까요.
애플만의 문제도 아니에요. FT는 이걸 기업 버그 바운티 프로그램 전반에 걸친 '성장통'이라고 표현했어요. 저품질 제보가 쏟아지면서 아예 프로그램을 일시 중단하는 회사들도 나오고 있다고 하고요. 근데 애플은 동시에 최상위 취약점 포상금을 200만 달러까지 올려놓은 상태이기도 해요. 보너스까지 합치면 500만 달러를 넘기는 경우도 있다고 하니, 한쪽에선 포상금을 키워서 진짜 고수들을 끌어들이려 하고 다른 한쪽에선 잡음을 걸러내야 하는 상황인 거예요.
이 얘기, 되게 상징적이라고 생각해요 🤖. AI가 생산성을 높여준다는 말은 맞는데, 그 결과물의 품질을 검증하는 비용까지 같이 딸려온다는 거잖아요. 취약점 스캐닝뿐 아니라 코드 리뷰, 고객 문의, 논문 심사 같은 다른 영역에서도 비슷한 얘기가 나오고 있고요. 사람이 걸러야 할 '신호 대 잡음비'가 AI 시대 들어 오히려 나빠질 수 있다는 걸 애플 같은 큰 회사조차 실감하고 있다는 게 재밌어요.
근데 솔직히 이게 애플만의 숙제는 아닐 거예요 ⚠️. 앞으로 보안 취약점 신고뿐 아니라 특허 출원, 논문 투고, 심지어 채용 지원서까지 AI가 대량으로 그럴듯하게 찍어낼 수 있는 영역이라면 어디든 똑같은 딜레마가 생길 것 같거든요. 진짜와 가짜를 가려내는 새로운 필터가 결국 또 다른 AI가 될지, 아니면 사람이 다시 앞단에 서야 할지, 이 균형점을 어떻게 잡을지가 궁금해지네요.
출처