OpenAI가 최전선 AI의 안전성과 보안을 위한 일련의 제안을 블로그 포스트를 통해 발표했다. 이 글에서 OpenAI는 특히 정렬(Alignment) 연구와 재귀적 자기향상(RSI)이라는 두 축에 주목하고 있다.
한편 같은 시기에 경쟁사인 Anthropc도 앞서 프론티어 AI 모델의 안전한 개발을 위한 아이디어를 제시했다. 이는 AI가 인류에 대한 위협 가능성에 대한 경고가 잇따르는 가운데 나온 대응으로 해석된다.
두 회사의 제안은 글로벌 AI 안전 규범과 개발 방향에 대한 논의에 활력을 불어넣었다. 특히 RSI와 정렬 연구를 중심으로 한 접근 방식이 어떻게 실용적 안전성 확보로 이어질지에 관심이 모이고 있다.
출처: CNBC