퓨처오브라이프 연구소가 주요 AI 기업 9곳의 안전 등급을 매겼어요. 앤트로픽이 C+로 1위, 스페이스XAI·딥시크·미스트랄은 F를 받았어요. 실존적 위험 대응은 전 업체가 C- 이하로 가장 취약한 영역이었어요.
솔직히 성적표 받아보는 기분이 이런 걸까요. 비영리 연구기관 퓨처오브라이프 연구소(FLI)가 어제(7월 7일) AI 세이프티 인덱스 2026 여름판을 발표했는데, 결론부터 말하면 9개 주요 AI 기업 중 A를 받은 곳이 단 한 곳도 없었어요. 스튜어트 러셀 UC버클리 교수는 "업계에 안전 관련 좋은 작업들이 있긴 하지만, 능력 경쟁이 오히려 더 극단적으로 치닫고 있다"고 평했어요.
등급을 하나씩 보면 이래요. 앤트로픽이 2.66점(C+)으로 여섯 개 평가 영역 중 다섯 곳에서 1위를 차지하며 전체 1위를 지켰고, 오픈AI가 2.28점(C)으로 위험 평가 영역에서 강세를 보이며 뒤를 이었어요. 구글 딥마인드는 2.01점으로 3위 자리를 유지했고요. 그 아래로는 살짝 씁쓸해요. 메타가 1.32점(D+)으로 4위까지 올라왔는데, 지난 판보다 순위가 6위에서 4위로 뛴 거라 그나마 개선된 축이에요. 반대로 Z.ai와 알리바바 클라우드가 각각 0.88점·0.87점(D-)을 받았고, 스페이스XAI(옛 xAI)·딥시크·미스트랄은 나란히 F등급을 받았어요. 특히 스페이스XAI는 4위에서 7위로 순위가 뚝 떨어졌어요.
가장 눈에 띄는 대목은 따로 있어요. 평가 영역 중 실존적 위험(existential safety) 대응이 전 업체 통틀어 가장 낮은 점수를 받았는데, C- 이상을 받은 곳이 단 한 곳도 없었대요. 케임브리지대 데이비드 크루거 교수는 "AI 기업들이 신뢰할 만한 안전 계획을 향해 진전을 보이지 않는 건 스캔들 수준"이라고 직격했어요. 발표된 안전 프레임워크들도 정량적 임계값이나 독립 감사가 빠져 있는 경우가 많다는 지적도 나왔고요.
또 하나 흥미로운 건 '군사적 전환' 흐름이에요. 예전엔 군사적 활용을 금지했던 기업들이 이제는 국방 파트너십을 적극적으로 추진하고 있다는 거예요. 요즘 네이버·KAI 국방 AI 협력이나 앤트로픽의 커스텀 칩 이야기가 나오는 걸 보면, 이 흐름이 남 얘기는 아닌 것 같아요. 개인적으로는 안전 지표가 계속 발표되는 것 자체는 긍정적이라고 봐요. 근데 이 성적표가 실제 정책이나 규제로 이어지지 않으면 그냥 '연례행사'로 끝날 수도 있겠다 싶고요.
이번 평가는 6월 3일까지의 근거 자료와 각사 설문 응답을 토대로, 7명의 독립 연구자·거버넌스 전문가 패널이 절대 기준으로 영역별 등급을 매기는 방식으로 진행됐어요. 다음 판이 나올 겨울까지, 지금 F를 받은 기업들이 얼마나 달라질지 지켜볼 일이에요.
출처