AI가 인류에 위협을 가할 수 있다는 우려가 커지면서 AI 비상브레이크, 이른바 킬 스위치에 대한 논의가 활발해지고 있다. 그러나 전문가들은 킬 스위치를 구현하는 일이 AI 인프라의 범위와 모델의 예측 불가능성으로 인해 쉽지 않다고 지적한다.
CNBC 기사에 따르면 킬 스위치의 핵심 난제는 “한 개의 엔티티를 죽이는 것이 아니다”라는 점이다. Team8의 팀 브라운은 “킬 스위치로 제거해야 할 대상은 하나가 아니라 수천 개의 엔티티가 있다”고 설명하며, AI 생태계가 매우 분산되고 다층적이기 때문에 단일 중단 수단으로 모든 시스템을 강제 중단하는 것은 실용적이지 않다고 밝혔다.
전문가들은 또한 인프라의 범위를 고려할 때 킬 스위치의 작동 여부를 보장하기 어려운 구체적 현실을 제시한다. 모델의 작동 중단이 예상치 못한 사이드 이펙트를 야기하고, 글로벌 공급망이나 다수의 기관이 얽힌 환경에서의 일괄 중단은 오히려 위험을 키울 수 있다는 지적이 있다. 그럼에도 불구하고 정책입안자와 기술 리더들은 필요성 자체를 부정하지 않으며, 안전성 확보를 위한 다양한 접근법을 모색 중이다.
요약하면, AI 킬 스위치의 개념은 강력한 비상조치를 상징하지만, 현재 기술적·제도적 구조에서의 구현은 여전히 복잡하고 한계가 명확하다는 평가가 다수다. 각국의 규제 당국과 기술기업은 신뢰성 있는 안전장치 마련을 위한 연구와 실험을 이어가고 있다.
출처: CNBC