영국 파이낸셜타임스(FT)가 AI 안전성 우려가 커지는 가운데 AI 선두 기업과 연구기관 직원들 사이에서 사회를 위협하는 가능성에 대한 불안과 정신적 스트레스가 확산되고 있다고 보도했다. FT에 따르면 영국의 프런티어 AI 모델을 독립적으로 점검하는 기관인 AI 안전 연구소(AISI) 직원들까지 병가와 상담을 받는 등 정신건강에 어려움을 겪고 있다.
보도에 따르면 출시를 앞둔 AI 모델들의 빡빡한 테스트 일정과 급속한 기술 확산, 기능 발전으로 인한 우려가 직원들의 사기 저하와 번아웃으로 이어지고 있다. 앤트로픽과 오픈AI, 구글 딥마인드 등 선두 기업의 직원들도 비슷한 우려를 토로했다. 딥마인드의 한 직원은 “AI를 더 안전하게 만드는 일이 불가능한 임무처럼 느껴진다”고 밝혔다.
해당 직원은 미국 국방부의 기밀 군사 업무에 AI 모델이 사용되는 문제를 놓고 구글 임직원들이 반발했던 사례를 언급하면서 “AI 시스템 업무는 기술 사용 방식이 불확실하다는 점에서 정신건강에 위험이 있다”고 말했다. 그는 “많은 이들이 혼란스러워 일을 그만두거나 정신건강 문제로 병가를 내고 있다”며 “통제력을 잃고 있다는 느낌과 실질적으로 해로운 것을 만들고 있다는 느낌도 있다”고 덧붙였다.
AI 연구원들 사이에서는 기업 내부나 정치적 안전장치가 충분치 않음에도 에너지망이나 전쟁 지역과 같은 위험 분야에 AI 소프트웨어가 적용될 가능성에 대한 우려가 커지고 있다. 전직 AISI 연구원은 최근 AI 모델이 코드상의 결함을 발견하거나 자연 발생하지 않은 바이러스를 생성하는 등 급속한 능력 발전이 사이버안보나 생화학 분야 종사자들을 놀라게 한다고 전했다. 그는 “기술이 방출되는 방식에 무모한 요소가 내재한다”며 “이걸 멈출 수 있을까, 우리가 세상이 불타는 걸 보고 있는 건가라는 우려가 끊이지 않는다”고 말했다.
FT는 미국의 오픈AI, 앤트로픽, 구글 딥마인드 등 3대 선두기업에서 지난 2년간 안전성에 우려를 표명하며 퇴사한 고위급 연구원이 12명을 넘는다고 전했다. 이달 초 앤트로픽의 AI 개발자인 제이컵 콕슨의 사직 소식이 나오며 양사에 “목숨을 걸고 도박하고 있다”는 경고가 나왔고, 앤트로픽의 안전성 연구원 므리난크 샤르마는 올해 2월 시를 공부하겠다며 사직하며 “세계가 위험하다. 우리의 가치에 따라 행동하는 게 얼마나 어려운지 거듭 목격했다”고 썼다. 오픈AI 직원 히에우 팜 역시 올해 일을 그만두고 베트남으로 돌아가며 “지능적으로 큰 것을 구축하는 데 대가가 따른다”고 했고, “정신건강 악화는 실질적이고 비참하며 두렵다”는 입장을 밝혔다.
출처: 연합뉴스