AI 스타트업 창업자들이 직면한 안전성 이슈가 테크콘서트의 중심에 선다. TechCrunch Disrupt 2026에서 다루는 다섯 개의 세션은 기업 시스템 접근 권한, 물리적 세계의 실수 가능성, 클라우드 기반의 보안 강화, 실패를 용인하지 않는 AI 시스템 구축, 그리고 로봇의 데이터 문제 등 AI가 실제로 신뢰받고 현장에 적용되기까지 필요한 구체적 도전 과제를 조명한다.
첫 번째 세션은 “What Anthropic Sees When Enterprises Actually Deploy Claude”로, 애니폼(Anthropic)의 엔터프라이즈 적용 책임자 Cat de Jong이 엔터프라이즈에서 Claude를 생산 환경으로 옮길 때의 성공 요인과 장애 요인을 직접 다룬다. 창업자들이 엔터프라이즈에 AI를 판매하려 할 때, 어느 deployments가 실제 가치를 창출하고 어느 부분이 pilot 단계에 머무르는지에 대한 현장의 경험이 제시된다.
두 번째 세션인 “The Agent Security Problem Nobody Is Talking About”은 AI 에이전트가 행동을 취할 수 있는 경우 발생하는 보안 문제를 다룬다. 애플리케이션 수준 권한 모델의 취약점과 에이전트 기반 아키텍처에서의 고려사항을 논의하며, Okta의 Ric Smith와 NanoCo의 Gavriel Cohen이 인프라 차원의 보안 이슈를 제시한다.
세 번째 세션은 “Securing the AI Enterprise: Why the Cloud Just Got a Lot More Complicated”로, 엔터프라이즈가 AI를 도입하는 과정에서 보안, 거버넌스, 관측성 등이 비즈니스 의사결정에 어떻게 작용하는지 점검한다. AWS의 Rudy Mitra 부사장, Luta Security의 Katie Moussouris 대표, 사이버 보안 전문가 Wendy Nather가 AI가 더 자율적 역할을 수행하는 환경에서 필요한 인프라를 짚어 본다.
네 번째 세션은 “Building AI Systems When Failure Is Not an Option”으로, 물리적 세계에서 작동하는 AI의 안전성을 다룬다. Shield AI의 CTO Nathan Michael, GM의 로봇 전략 디렉터 Mikell Taylor, Waabi의 창립자 겸 CEO Raquel Urtasun이 참여해 자율 시스템이 실제로 배포될 만큼 안전한지 판단하는 요건, 안전 문화의 구축, 테스트·검증 절차, 규제 대응 등을 논의한다.
다섯 번째 세션은 “Robots Are Waiting for Their ChatGPT Moment. Here Is What Is Standing in the Way”로, 로봇 분야의 데이터 문제를 다룬다. NVIDIA의 Inception Global Head Les Karpas가 대규모 데이터 파이프라인과 시뮬레이션 환경, 기초 모델이 물리적 AI의 확장을 어떻게 뒷받침할 수 있는지, 로봇이 실제 현장에서 신뢰받고 작동하도록 어떤 요소가 필요한지 살펴본다.
Disrupt은 10,000명 이상의 창업자, 투자자, 운영자 및 기술 리더들이 참여하는 대규모 행사로 예고되었으며, 200건이 넘는 세션과 6개 산업 무대, 라운드테이블, 브레이크아웃 세션이 진행된다. 참가자들은 모델의 지능화나 에이전트의 강화에 앞서, 고객이 실제로 신뢰하고 도입할 수 있도록 하는 안전성과 운영 가능성을 핵심으로 삼아 논의를 이어갈 예정이다.
출처: TechCrunch