MIT 미래 축제(MIT Future Fest) 기조 연설에서 토니 페이델은 한때 과장되었던 AI 기기들이 결국 시장에서 자취를 남기지 못했다고 평가했다. 그는 초기 ‘제너레이션 1’ AI 제품들로 꼽히는 Rabbit R1, Humane AI 핀, Limitless 펜던트가 이미 단종되어 현장의 신뢰를 얻지 못했다고 지적했다.
페이델은 “무슨 고통을 해결하려는지 이해하는 것이 중요하다”라며, 이러한 초기 AI 기기들이 실질적 필요를 충족시키지 못했고, 단지 기술적으로 흥미로웠을 뿐이라고 말했다. 대다수의 사람은 개인 비서가 무엇인지 잘 알지 못하고, 심지어 개인 로봇 비서를 어떻게 이용할지에 대한 경험도 부족하다고 설명했다. “세계 인구의 0.01% 미만만이 인간 비서를 이용해 본 경험이 있다”는 그의 지적도 덧붙였다.
그는 소비자가 신뢰할 수 있는 개인 비서를 확보하는 과정이 단순한 이력서 선별이나 한두 단계의 도입으로 끝나지 않는다고 강조했다. 비서를 한 명 고용하는 것조차 초기에는 어떻게 활용하고, 가장 민감한 정보를 어떻게 다룰지에 대해 수년의 학습이 필요하다는 것이다. 자신도 처음에는 비서를 가장 효과적으로 활용하는 방법을 이해하고, 이후에야 은행 업무를 함께 처리하는 등 신뢰를 쌓아갔다는 경험담을 꺼냈다.
AI 비서의 신뢰 구축은 결국 보안 문제와 직결된다. 페이델은 인간 비서를 고용할 때와 달리, 앞으로는 누구나 AI 비서를 가질 수 있는 시대가 올 것이지만, 그 가치는 완전히 안전하다는 신뢰가 있을 때만 실현될 수 있다고 지적했다. 최근 메타의 ‘Muse’에 대한 보안 취약점 발견 사례와 내부 보안 이슈를 보도한 404 Media의 보도 등을 통해, 신뢰와 안전이 핵심 이슈로 부상하고 있음을 강조했다.
페이델은 “신뢰와 안전은 어떤 형태의 지능에든 핵심이 될 것”이라며, 현재로서는 애플이 이 분야에서 가장 가능성이 크다고 내다봤다. 다만 애플도 독자적인 AI 모델이 아직 충분히 갖춰지지 않았다고 지적했다. 애플은 하드웨어와 칩, 구성 요소 측면에서 강점을 지니고 있지만, 인공지능 면에서는 아직 경쟁사 대비 뒤처질 수 있다는 시각이다.
그가 제시한 해법의 한 축은 온-디바이스(on-device) 운영이다. 데이터 센터를 통한 처리 대신 기기 자체에서 민감 데이터를 처리해 보안을 강화하면 소비자 신뢰를 높일 수 있다는 주장이다. 페이델은 “지금도 기기에 생각보다 많은 힘이 있고, 계산 능력도 증가하고 있다”면서도 배터리 operated 환경이라고 설명했다. 결국 데이터의 로컬 저장이 신뢰 구축의 핵심이라고 봤다.
그는 또한 애플이 하드웨어와 보안 측면에서 강점을 지니고 있음에도, AI 모델의 자체 개발이 상대적으로 미흡하다고 평가했다. 새로운 Siri AI가 구글의 Gemini를 기반으로 커스텀 버전으로 작동한다는 점도 언급했다. 페이델은 메타의 Muse처럼 소비자 체감 신뢰에 영향을 미칠 수 있는 요소들을 지적하며, 성공적인 AI 에이전트가 되려면 사용자 기기에서의 프라이버시 보호와 경량화를 동시에 달성해야 한다고 전했다.
또한 그는 현재의 경쟁 구도에서 하드웨어 대 기업 간의 차이가 AI 기기의 방향성에 영향을 준다고 보았다. 메타나 OpenAI 같은 기업이 센서를 풍부하게 가진 기기를 통해 데이터를 확보하려는 경향이 강해졌고, 그 대안으로 완전한 센서 집합을 갖춘 디바이스를 통해 웹으로 데이터를 되돌려 보내는 구조를 택하고 있다는 분석을 제시했다. 이로 인해 화면이 없는 디바이스를 통해 음성·비디오·GPS 등 다양한 데이터를 수집하는 방향으로 이동하는 모습이라고 설명했다.
페이델은 제품-market 피트에 대한 운에 의존하기보다, 스타트업의 경우 실패가 회사를 끝낼 수 있는 현실을 지적하며, 신뢰를 바탕으로 한 AI 비서의 성공이 얼마나 어려운 과제인지를 강조했다. 실제로 초기 AI 기기의 실패 요인을 놓고서는 “실제 필요를 충족시키지 못했고, 소비자 생활에 적용되지 않았다”는 점이 핵심이라고 재차 말했다.
그가 제안하는 방향은 분명하다. 사용자의 개인정보와 센서 데이터를 기기 내부에 머물게 하면서, 소규모이면서도 강력한 보안 구조를 구축하고, 소비자들이 신뢰할 수 있는 기능과 편리함을 제공하는 방식이다. 이는 향후 AI 에이전트의 보급과 신뢰 구축의 핵심 축으로 자리 잡을 전망이다.
출처: TechCrunch