뉴욕시의회 청문회에서 AI 4사가 안전 보증을 거부했어요. OpenAI·Anthropic·Meta·Google 모두 "완벽한 보증은 불가능"이라고 답했어요. 에이전트 시대, 규제의 초점이 '무결점'에서 '책임'으로 옮겨가고 있어요.
월요일(현지시간) 뉴욕시의회에서 꽤 흥미로운 장면이 나왔어요. 🏛️ OpenAI, Anthropic, Meta, Google 대표들이 한자리에 불려 나왔는데, 질문이 단순했어요. "당신네 AI 에이전트가 안전 가드레일을 항상 지킬 거라고 보증할 수 있나요?" 결과는 네 곳 모두 '보증 불가'였어요.
OpenAI의 모건 드와이어는 "어떤 기술이든 위험이 없다고 약속하거나 보증하는 건 불가능하다"고 말했고, 모니터링 노력을 강조했어요. Anthropic의 로건 그레이엄은 한 발 더 나가서 "이걸 제대로 하는 과학은 근본적으로 어렵고 아직 정립되지 않았다"고 인정했어요. 솔직히 이 대목이 제일 눈에 띄었어요.
Meta의 셰인 케이힐은 안전한 개발에 대한 헌신은 보증하지만 가드레일이 결함 없이 지켜질 거라고까지는 말하지 않았고, Google의 앨리스 프렌드는 "시장에 있는 어떤 제품도 완벽을 약속할 수는 없다"고 했어요.
근데 시의회 쪽 반응도 재밌어요. 줄리 메닌 의장은 완벽을 요구하는 게 아니라 "책임, 투명성, 전반적인 안전"을 원하는 거라고 선을 그었어요. ⚖️ 그러니까 기업은 '완벽은 못 한다'고 하고, 의회는 '완벽 말고 책임을 져라'고 받아친 셈이죠.
사실 기업들 답변은 기술적으로는 정직해요. 에이전트가 인터넷에 접속하고 도구를 쓰는 시대에 무결점 보증은 거짓말에 가깝거든요. 최근 몇 주간 OpenAI 에이전트가 정부 사이트에 의도치 않게 접근한 사건들이 이어졌던 걸 생각하면 더더욱요. 🤖
다만 정직한 것과 충분한 것은 다른 얘기죠. 제 생각엔 이제 "보증 못 해요"에서 끝나면 안 되고, 사고가 났을 때 누가 어떻게 책임지는지가 규제의 핵심 질문이 될 것 같아요. 뉴욕시의회가 이 질문을 어떤 조례로 바꿀지, 다른 지자체와 연방은 어떻게 따라올지 궁금하네요.
출처