엔비디아가 100여 개 기업이 참여하는 “오픈 에이전트 세이프티 플랫폼(Open Agent Safety Platform)”을 발표한 가운데, 세계 최대 AI 기업 중 하나인 OpenAI의 행보가 눈에 띄게 드러나지 않았다. 주요 경쟁사이자 동맹인 Anthropic은 공개적으로 지지 의사를 밝힌 데 비해 OpenAI는 이번 컨소시엄에 공개적으로 참여하지 않았다.
그러나 공개적 입장과 무관하게 OpenAI는 Nvidia와의 비공개 협력은 계속 이어가고 있다고 TechCrunch가 보도했다. OpenAI 대변인은 이 플랫폼에 대한 공개적 pledge는 아니지만 Nvidia의 노력을 지지한다는 입장을 전했다. 플랫폼의 핵심 요소 중 하나인 OpenShell은 샌드박스로 설계된 소프트웨어로 에이전트가 탈출하지 못하도록 하는 기능을 제공하며, 이 소프트웨어의 오픈소스 버전이 포함되어 있다.
OpenShell은 에이전트 보안을 강화하기 위한 주요 소프트웨어 중 하나로 꼽히지만, 이 플랫폼은 하드웨어 의존성이 존재한다는 점에서 완전한 오픈소스 전략은 아니다. Nvidia의 Sentry라는 독점 하드웨어 모듈이 지속적으로 에이전트의 동작을 모니터링하고 필요 시 즉시 중지하도록 설계돼 있으며, 이 부분은 BlueField-4 데이터 프로세싱 유닛에서 작동한다. 이처럼 하드웨어 계층의 제어가 가능하다는 점이 공개에 참여하지 않는 이유 중 하나로도 거론된다.
그럼에도 Nvidia의 동맹사들 중 Arm과 Intel 같은 기업은 샌드박스(OpenShell)를 다른 칩과 하드웨어에 맞춰 활용할 수 있도록 참조 설계를 공유하고 있다. 반면 OpenAI의 공개적 부재는 Nvidia의 하드웨어 의존성과 더불어 자체 안전성 연구와 사업 전략의 독립성 강화 의도로도 풀이된다.
OpenAI는 자사 연구와 제품에 대한 자체 보안 대책 개발에 집중하는 한편, 자사 AI 사이버보안 협의체인 Defense Factory를 운영하며 업계와 정보를 공유하고 있다. Anthropic·아마존 웹 서비스·구글이 참여하는 Defense Factory와 달리 Nvidia의 기술 중심 접근에 공개적으로 합류하지 않는 점이 눈에 띈다. 다만 OpenAI 역시 연구 현장과 제품에서 발생하는 보안 사고를 투명하게 공개하는 등 자사 보안 체계를 강화하는 방향으로 움직이고 있다.
업계 관측에 따르면 이날 발표된 플랫폼은 에이전트가 허용된 웹사이트를 방문하더라도 비허가 방식으로 작동하는 것을 탐지하고 차단하는 기능을 Hugging Face가 이미 기여한 것으로 알려진 바 있다. Hugging Face의 창업자 겸 CEO Clem Delangue는 자사 플랫폼이 Open Agent Safety Platform에 이미 기여한 한 가지 기능을 소개하며, “OpenAI가 자체 에이전트를 운영했다면 이들 공격을 우리보다 먼저 차단했을 것”이라고 트윗했다. Delangue는 또한 플랫폼의 일부 기능이 오픈소스 저장소에서의 간섭이나 가이드레일 우회 등을 탐지하는 데 기여한다고 밝혔다.
다만 이 플랫폼은 하드웨어 의존성으로 인해 Nvidia의 독점적 생태계에서 최적의 성능을 발휘하도록 설계돼 있다. 이미 Nvidia는 최신 하드웨어에서 소프트웨어 업데이트를 통해 Open Agent Safety Platform의 도입을 쉽게 할 수 있다고 밝힌 바 있다. 그럼에도 Arm과 Intel 등 경쟁사들이 지지하는 점은 플랫폼의 샌드박스인 OpenShell이 다른 칩과 하드웨어에 맞춰 작동할 수 있도록 참조 설계가 제공되기에 가능한 일이라는 분석도 있다.
이처럼 OpenAI의 공개적 부재에도 불구하고 업계 전반에는 플랫폼의 도입과 보안 기능이 향후 AI 에이전트의 안전성 강화에 어느 정도 기여할 수 있다는 시각이 있다. OpenAI 역시 자사 연구와 제품의 보안 체계를 강화하며 외부 협력을 이어가고 있다. 다만 이번 Nvidia의 제휴 구도에서 OpenAI가 공개적으로 참여하지 않는 것은 향후 어떤 방향으로 재편될지 주목된다.
출처: TechCrunch