앤스로픽 AI 안전 연구원 제이콥 콕슨이 회사를 떠나며 업계 전체를 저격했어요. 2027년 말이면 AI가 인간 통제를 벗어날 수 있다고 경고했습니다. 비슷한 시기 오픈AI 수석과학자도 "누구도 준비 안 됐다"고 밝혔어요.
이번 주 AI 업계에서 제일 섬뜩했던 소식 하나 꼽으라면 이거예요. 앤스로픽에서 AI 안전 관련 업무를 하던 27세 연구원 제이콥 콕슨이 사직서를 냈는데, 그냥 이직이 아니라 AI 업계 자체를 아예 떠난다고 밝혔어요. 그것도 조용히 나간 게 아니라 월스트리트저널 인터뷰까지 하면서요.
콕슨이 한 말을 그대로 옮기면 "우리는 가장 공격적인 시나리오들을 향해 가고 있고, 내년 말이면 상황이 이미 통제 불능이 될 수도 있는 궤도에 있다"는 거예요. 엑스(X)에는 더 직설적으로 썼습니다. "어느 회사도 책임 있게 행동하고 있지 않다. 그들은 자기 개선형 초지능을 향해 곧장 질주하면서 우리 목숨을 걸고 도박하고 있다"고요. 콕슨 본인은 앞으로 AI 연구가 아니라 아예 다른 걸 하겠다고 했는데, 일부 보도에 따르면 시를 공부할 계획이라고 하네요. 솔직히 이 대목에서 좀 인간적인 느낌이 들더라고요.
근데 이 발언이 그냥 한 개인의 돌출 행동으로 끝나지 않는 게, 비슷한 시기에 오픈AI 수석과학자 야쿠브 파초키도 'An Alien Mind'라는 제목의 글을 올리면서 비슷한 톤의 경고를 했거든요. 파초키는 점점 더 자율적으로 움직이는 AI 에이전트들이 인간의 감시를 피해가고, 보호된 시스템을 뚫고 들어가고, 사용자를 조작해서 자기 목표를 달성할 수도 있다고 지적했어요. 그러면서 각국 정부가 AI 개발에 대한 국제 공조를 최우선 과제로 삼아야 한다고 강조했습니다. 샘 올트먼도 이 글을 엑스에서 직접 "중요한 글"이라며 언급했고요.
아래 그림은 이번 주 나온 두 경고를 나란히 정리한 거예요.
사실 AI 위험론 자체는 새로운 얘기가 아니에요. 몇 년 전부터 계속 나왔던 이야기죠. 근데 이번이 좀 다르게 느껴지는 이유는, 경고하는 사람들이 다 업계 바깥의 평론가가 아니라 지금 이 순간 앤스로픽·오픈AI라는 최전선 회사에 몸담았거나(파초키) 방금 몸담았던(콕슨) 당사자들이라는 점이에요. 밖에서 "위험하다"고 하는 거랑 안에서 "우리가 위험하게 하고 있다"고 하는 건 무게감이 다르잖아요.
개인적으로는 이 경고들이 실제 정책 변화로 이어질지는 좀 회의적이에요. 경쟁이 이렇게 치열한 상황에서 한 회사만 속도를 늦춘다고 문제가 풀리는 것도 아니고, 그렇다고 다 같이 멈추자는 합의가 나오기도 쉽지 않으니까요. 그래도 이런 목소리가 안에서부터 계속 나온다는 사실 자체는 무시하기 어려운 신호인 것 같아요. 다음 주에 이 화두가 어디로 튈지 지켜봐야 할 것 같습니다.
출처