피지컬 AI의 데모는 쉽지만, 현장 배치는 어렵다

영상이 아니라 증거 — Physical AI Deployment Assurance 시리즈 1편

우리는 이미 많은 영상을 봤다.

휴머노이드가 빨래를 갠다. 네 발 로봇이 사람이 넘어질 만한 충격을 받고도 균형을 회복한다. 로봇 팔이 식기세척기에 그릇을 넣는다. 때로는 그 움직임이 묘하게 사람의 손길처럼 보이기도 한다.

이 영상들은 가짜가 아니다. 그 뒤에 있는 공학도 진짜다. 문제는 따로 있다.

그 영상들이 과연 우리가 필요로 하는 종류의 증거인가?

이제 우리가 실제로 지나다니는 건물들을 떠올려보자. 병원, 오피스, 학교, 아파트, 공항, 물류센터, 공장. 오늘날 대규모로 안정적으로 운영되는 로봇들은 대개 로봇을 위해 설계된 환경 안에 있다. 울타리로 구분된 작업 셀, 반도체 팹, 센서가 인식하기 좋게 지도화되고 표시된 창고 바닥 같은 곳이다.

데모 영상 속 로봇은 우리의 환경에서 성공하는 것처럼 보인다. 하지만 실제로 잘 운영되는 로봇은 대개 로봇의 환경에서 일한다.

이 두 문장 사이의 거리가 이 블로그의 주제다.

나는 이것을 배치 간극, 즉 deployment gap이라고 부르려 한다.

이 첫 글의 주장은 단순하다. 이 간극은 마케팅의 과장이나 몇 달만 더 다듬으면 사라질 문제가 아니다. 구조적인 문제다. 데모가 증명하는 것과 현장 배치가 요구하는 것이 다르기 때문에 생기는 문제다. 그리고 인터넷 소프트웨어가 자신의 배치 간극을 넘을 때 사용했던 방식은, 사람과 같은 공간을 공유하는 기계에는 그대로 적용되지 않는다.

데모는 무엇을 증명하는가

데모는 일종의 존재 증명이다.

어떤 조명, 어떤 바닥, 어떤 장애물 위치, 어떤 배터리 상태, 어떤 네트워크 지연, 어떤 운영자의 개입 조건 아래에서 그 행동이 한 번은 일어날 수 있음을 보여준다. 영상은 그 증명서다.

이것은 분명 가치가 있다. 존재 증명은 분야를 진전시킨다. “가능하다”는 것을 보여주는 일은 중요하다.

하지만 현장 배치는 다른 종류의 주장이다.

현장 배치는 “어딘가에서, 언젠가, 좋은 조건이 갖추어지면 작동할 수 있다”는 주장이 아니다. 현장 배치는 특정 장소가 실제로 만들어낼 조건들에 대한 주장이다. 그것도 하루가 아니라 수개월, 때로는 수년 동안 지속되어야 하는 주장이다. 그리고 예외 상황이 생겼을 때 누가 어떤 책임을 지는지도 포함하는 주장이다.

“작동할 수 있다”가 아니다.

현장 배치는 이렇게 말해야 한다.

이 시스템은 이 장소에서 계속 작동할 것이며, 작동하지 않을 때는 무슨 일이 일어나는지 알고 있다.

데모와 현장 배치 사이의 간극이 생기기 위해 누군가가 부정직할 필요는 없다. 선택만으로 충분하다. 팀은 성공할 때까지 반복하고, 성공한 순간 녹화 버튼을 누른다. 엔지니어들은 이것을 안다. 하지만 영상을 보는 사람들은 쉽게 잊는다. 실제 물리적 기계가 실제 물리적 행동을 하는 영상은 벤치마크 표보다 훨씬 강한 증거처럼 느껴지기 때문이다.

그 영상은 준비가 되었다는 증거처럼 보인다.

하지만 사실은 가능성의 증거다.

둘은 같은 것이 아니다.

데모가 있는 곳과 현장 배치가 평가되는 곳

데모는 성공 가능성이 높도록 선택된 좁은 조건 영역에서 이루어진다. 현장 배치는 실제 결과가 따르는 긴 꼬리의 희귀 조건들에서 평가된다.

하나의 현장은 운영 조건의 분포를 만든다. 평범한 중간 영역이 있고, 드물지만 중요한 조합들이 모여 있는 긴 꼬리가 있다.

청소 직후 반사되는 바닥.
지게차와 방문객이 동시에 같은 통로에 들어오는 순간.
일 년 중 특정 계절에만 센서를 포화시키는 햇빛 각도.
새로 설치된 유리문이 만들어내는 예상치 못한 반사.
지도상으로는 비어 있어야 할 공간에 놓인 임시 안내판.

데모는 성공하기 좋은 조건을 고른다. 현장 배치는 세상이 던지는 조건으로 평가된다.

학습 기반 제어기는 이 문제를 더 불편하게 만든다. 이런 시스템은 대개 학습 분포의 중심부에서 가장 강하다. 그리고 그 중심부는 데모를 찍기 가장 쉬운 곳이다. 반대로 약한 곳은 분포의 꼬리다. 그런데 현장 배치는 바로 그 꼬리에서 평가된다.

따라서 데모는 단순히 현장 배치 준비도를 충분히 측정하지 못하는 것에 그치지 않는다. 종종 시스템이 가장 유능해 보이는 영역만 측정한다.

왜 소프트웨어의 방식은 그대로 통하지 않는가

인터넷 소프트웨어는 자신의 배치 간극을 유명한 방식으로 넘었다.

베타를 배포한다. 실패를 관찰한다. 패치한다. 반복한다.

이 방식은 많은 경우 잘 작동했다. 소프트웨어 실패는 대체로 복구 가능했고, 충돌은 로그를 남겼고, 수정된 코드는 거의 비용 없이 모든 사용자에게 전달될 수 있었다.

피지컬 AI는 이 중 첫 번째 성질을 결정적으로 잃는다. 그리고 그 손실은 나머지 성질들까지 흔든다.

되돌리기가 없다

잘못 판단한 간격은 처리해야 할 예외가 아니다. 접촉이다.

실패의 비용은 비대칭적이며, 때로는 되돌릴 수 없다. 그래서 허용 가능한 실패율은 학습 곡선이 자연스럽게 안정화되기 훨씬 전에 제한된다. 챗봇은 환각을 일으킨 뒤 수정될 수 있다. 하지만 환자, 작업자, 아이, 방문객과 같은 공간을 공유하는 로봇은 같은 여유를 갖지 못한다.

배포하면서 배울 수 없다

소프트웨어는 많은 신뢰성 증거를 배포를 통해 축적했다.

하지만 사람과 공간을 공유하는 기계의 경우, 배치를 정당화하는 증거가 배치 자체에서 주로 나올 수는 없다. 충돌은 누구도 승인하지 않는 A/B 테스트다.

따라서 이 간극은 상당 부분 사전에 좁혀져야 한다. 시뮬레이션, 구조화된 실험, 스트레스 테스트, 운영 제약, 모니터링 계획, 명시된 가정 아래에서 성립하는 보장 같은 예행 증거가 필요하다.

물론 시뮬레이션에서 얻은 증거가 실제로 얼마나 이전되는지, 그리고 이전되지 않았을 때 누가 비용을 부담하는지는 별개의 어려운 문제다. 이 주제는 나중 글에서 다시 다루려 한다.

현장은 변한다

클라우드 소프트웨어는 자신이 작동하는 환경의 상당 부분을 정의하고, 계측하고, 재현할 수 있다. 하지만 로봇의 환경은 누군가의 건물이다.

리모델링은 지도를 바꾼다.
신규 직원은 동선을 바꾼다.
계절은 빛을 바꾼다.
새로운 청소 일정은 바닥 상태를 바꾼다.
소프트웨어 업데이트는 로봇 자체를 바꾼다.

지난 분기에 검증한 분포가 다음 분기에 운영할 분포와 같다는 보장은 없다. 오늘 밤 배포한 업데이트는 지난달의 승인서가 정확히 무엇을 승인한 것인지도 조용히 바꿔버린다.

검증은 한 번 통과하면 끝나는 이정표가 아니다.

검증은 낡는다.

모델만의 문제가 아니다

이 모든 것을 “아직 모델이 충분히 좋지 않아서”라고 정리하고 싶은 유혹이 있다. 그리고 규모가 커지면 언젠가 간극이 닫힐 것이라고 기대할 수도 있다.

일부는 맞다. 더 좋은 인식, 더 좋은 정책, 더 좋은 데이터, 더 좋은 시뮬레이션, 더 좋은 월드 모델, 더 좋은 제어, 더 좋은 평가가 분명히 중요하다. 이들은 분포의 꼬리를 줄인다.

하지만 어떤 모델 개선 이후에도 살아남는 질문들이 있다. 왜냐하면 그 질문들은 모델의 성질이 아니기 때문이다.

첫째.

이 장소에 대해 정확히 무엇을 약속하는가?

둘째.

합리적인 회의론자, 즉 운영자, 인증기관, 보험사, 법률가가 그 약속을 받아들이려면 어떤 증거가 필요한가?

셋째.

그 약속을 지킨 뒤에도 남는 위험은 누가 소유하는가?

오늘날 이 질문들에는 명확한 주인이 없는 경우가 많다.

벤더는 설득력 있는 파일럿에 대해 보상받는다. 운영자는 일상 운영에서 남는 위험을 떠안는다. 구매 문서는 성능을 설명한다. 안전 문서는 책임을 설명한다. 기술 보고서는 벤치마크를 설명한다. 보험 논의는 노출 위험을 설명한다.

하지만 너무 자주, 이 문서들은 서로를 참조하지 않는다.

이것이 많은 로봇 플릿이 데모 승인 후 오랜 시간이 지나도 여전히 “파일럿 단계”에 머무는 이유다. 단일한 기술적 한계보다 더 근본적인 문제일 수 있다.

청구서가 도착하고 있다

한동안 데모는 비즈니스 모델이었다.

영상은 투자를 만들고, 투자는 다시 영상을 만들었다. 그 순환이 사라진 것은 아니다. 하지만 점점 좁아지고 있다. 구매자와 이사회는 이제 가능성보다 배치를 가격에 반영하기 시작하고 있다.

구매팀은 파일럿 이후에 무엇이 일어나는지 묻는다.
안전 담당자는 사람과 로봇이 섞인 운영을 누가 승인하는지 묻는다.
보험사는 사고 이력이 거의 없는 시스템의 위험을 어떻게 가격화할지 묻는다.
인증기관은 코드 목록이 아니라 통계적 주장으로 행동하는 제어기를 어떻게 다룰지 묻는다.
운영자는 시스템이 99.5%의 시간 동안 잘 작동하지만, 중요한 0.5%에서 실패할 때 누가 전화를 받는지 묻는다.

배치 간극을 무시하는 비용은 점점 커지고 있다.

그 비용은 조회수가 아니라 멈춰 있는 플릿, 서명되지 않은 계약, 지연되는 rollout, 운영으로 넘어가지 못하는 파일럿으로 측정된다.

이름 붙이기

이런 간극을 건너게 해주는 것은 더 큰 데모가 아니다.

필요한 것은 하나의 규율이다. 영상이 아니라 증거를 만들고, 그 증거가 성립하는 가정을 명시하고, 그 가정이 언제 낡는지 감시하며, 어떤 증거로도 제거할 수 없는 잔여 위험의 주인을 정하는 규율이다.

그 규율의 조각들은 이미 존재한다. 안전공학, 통계학, 제어이론, 인증 실무, 운영연구, 필드 로보틱스 곳곳에 흩어져 있다. 하지만 대부분의 피지컬 AI 프로젝트에서 이 조각들은 아직 공통의 언어도, 명확한 주인도 갖고 있지 않다.

나는 이 규율을 이렇게 부르려 한다.

Physical AI Deployment Assurance.

다음 글에서는 이 이름 안에 무엇이 들어가야 하는지 다룬다.

이 글의 견해는 저 개인의 의견이며, 제가 소속된 기관이나 자문하는 조직의 공식 입장을 대표하지 않습니다.