Robotaxi vs 스쿨버스: AI 안전 설계가 갈리는 순간

2025년 12월, 자율주행을 바라보는 대중의 신뢰는 여전히 **“특수 상황에서 제대로 멈추는가”**에 달려 있습니다. 그리고 그 특수 상황의 대표가 스쿨버스예요. 최근 미국 교통 안전 규제기관이 오스틴에서 운행 중인 Waymo 로보택시가 스쿨버스를 반복적으로 지나쳤다는 정황에 대해 추가 질의에 나섰고, Waymo는 소프트웨어 업데이트로 성능을 개선했다고 밝혔습니다.

이 사건이 중요한 이유는 단순합니다. **스쿨버스 정지 규정은 ‘안전 문화’가 아니라 ‘법’**이고, 아이들이 도로 위에서 가장 취약한 보행자이기 때문입니다. 자율주행 AI가 이 장면에서 확실히 멈추지 못한다면, 카메라·라이다·레이다 같은 센서가 아무리 좋아도 “안전한 시스템”이라고 말하기 어렵습니다.

이 글은 “Waymo가 잘했나/못했나” 수준의 평가에 그치지 않습니다. 자율주행 AI가 왜 스쿨버스 상황을 어려워하는지, 규제기관(NHTSA 등)은 무엇을 확인하려는지, 그리고 자동차 산업에서 AI 안전을 설계·검증·운영하는 팀이 어떤 방식으로 재발을 막아야 하는지까지, ‘자동차 산업 및 자율주행에서의 AI’ 시리즈 관점에서 정리합니다.

왜 ‘스쿨버스’가 자율주행 AI의 리트머스 시험지인가

스쿨버스는 자율주행에서 가장 까다로운 ‘규칙 기반+상황 기반’ 혼합 과제입니다. 도로 표지판처럼 고정된 신호가 아니라, 버스의 정지등(플래싱 라이트), STOP 사인 전개 여부, 차선/중앙분리대 유무, 맞은편 차선 정지 의무 같은 조건이 겹치고, 주마다 법규가 조금씩 달라요. AI 입장에선 “객체 인식”만으로 끝나지 않습니다. **‘어떤 상태의 스쿨버스인지’**와 **‘지금 도로 구조에서 내가 정지 의무가 있는지’**를 동시에 풀어야 하죠.

또 하나. 스쿨버스 주변은 아이들이 뛰어나오는 등 행동 예측 불확실성이 극단적으로 큽니다. 보행자 예측 모델이 일반 성인 보행자 데이터에 최적화돼 있으면, 아이들의 급가속/급방향전환은 오탐·미탐을 유발하기 쉽습니다.

스쿨버스 상황에서 AI가 흔히 놓치는 4가지

자율주행 스택(Perception–Prediction–Planning–Control)에서 스쿨버스는 여러 지점에서 실패 모드가 나옵니다.

1. 인식(Perception): 스쿨버스를 ‘버스’로 인식은 하지만, STOP 사인 전개/점멸등 상태를 놓침
2. 규칙 해석(Rules/HD Map): 도로 구조(중앙분리대, 왕복 2차로 등)에 따른 정지 의무 판단 오류
3. 행동 예측(Prediction): 스쿨버스 옆/앞에서 등장할 보행자 출현 가능성을 과소평가
4. 계획(Planning): “정지” 결정을 내려도 너무 늦게 내려 급제동 또는 통과

스쿨버스 앞에서의 정지는 ‘정확한 인식’보다 ‘보수적인 의사결정’이 먼저입니다. 아이가 있을 확률이 1%여도, 결과의 비용은 100%입니다.

규제기관은 무엇을 확인하려고 하나: “한 번의 실수”가 아니라 “반복 패턴”

이번 이슈에서 핵심은 **반복적으로(pass repeatedly)**라는 표현에 있습니다. 규제기관이 진짜로 궁금해하는 건 “그날 왜 그랬죠?”가 아니라 다음이에요.

• 동일 조건에서 재현 가능한 실패 패턴인가
• 소프트웨어 업데이트가 현장 전체 플릿(fleet)에서 안정적으로 적용됐는가
• 업데이트가 스쿨버스엔 좋아졌지만 다른 시나리오(예: 급정거 유발, 후방추돌 위험)엔 악영향을 주지 않았는가
• 운행 설계 영역(ODD: Operational Design Domain)과 안전 케이스가 현실을 따라가고 있는가

자율주행 규제/조사는 보통 ‘한 장면’의 잘잘못만 따지지 않습니다. **시스템이 안전을 어떻게 보장하는지(프로세스)**를 봅니다. 특히 로보택시는 개인 차량과 달리 상시 영업 운행을 하기 때문에, 작은 빈도의 결함도 운영 규모가 커지면 곧바로 사회적 위험으로 확대돼요.

“소프트웨어 업데이트로 개선”이 의미하는 것

Waymo가 “업데이트로 성능을 개선했다”고 말한 대목은 업계에선 익숙한 문장입니다. 하지만 스쿨버스처럼 법규·윤리·안전이 결합된 사안에선, 업데이트의 의미가 더 무겁습니다.

• 감지 임계값 조정(예: 점멸등/STOP 사인 전개 신뢰도 임계치 상향)
• 정지 정책 강화(예: 확실하지 않아도 ‘정지’로 우회하는 보수적 정책)
• 지도/규칙 엔진 업데이트(예: 중앙분리대 판정 로직 개선)
• 테스트 케이스 추가(예: 오스틴 특정 도로 구조/시간대/광량 조건)

핵심은 이것입니다. 자율주행에서 업데이트는 단순 패치가 아니라 ‘안전 주장(Safety Claim)’의 재작성이에요. 그래서 규제기관은 “무엇을 바꿨는지”만큼 “어떻게 검증했는지”를 봅니다.

AI 안전 설계 관점: 스쿨버스는 ‘모델 성능’보다 ‘안전 정책’의 문제다

스쿨버스 대응은 흔히 “비전 모델을 더 학습시키면 되지 않나?”로 단순화됩니다. 저는 그 접근이 절반만 맞다고 봅니다. 이유는 명확해요. 스쿨버스는 인식의 문제이기도 하지만, 정책의 문제이기 때문입니다.

1) 규칙 준수는 ML만으로 맡기면 안 된다

법규 준수는 ML의 확률 출력에만 기대면 불안정합니다. 스쿨버스 정지는 다음이 필요합니다.

• **확정 규칙(Deterministic rule) + 불확실성 처리(Probabilistic reasoning)**의 결합
• “스쿨버스일 확률 0.7” 같은 값이 나왔을 때, 안전 측면에서의 의사결정 경계선을 명확히 정의

실무적으로는 이런 구조가 자주 쓰입니다.

• 인식 모델: 스쿨버스/점멸등/STOP 사인 상태를 확률로 추정
• 안전 정책 레이어: 불확실성 구간에서는 항상 정지 또는 감속 후 확인
• 운행 정책: 뒤차 추돌 위험이 커지는 상황이면 차선 변경/비상등/원격지원 등 보완

2) ‘아이 행동 예측’은 별도 안전 마진이 필요하다

성인 보행자 데이터로 훈련된 예측 모델은 아이들의 움직임을 과소평가하기 쉽습니다. 안전팀이 현실적으로 할 수 있는 가장 효과적인 조치는 스쿨버스 근처에서 예측 불확실성을 강제로 키우는 것입니다.

• 스쿨버스 주변 ROI(관심영역)에선 보행자 출현 확률을 상향
• 계획(Planning) 단계에서 속도 상한을 낮추고, 제동 여유거리 확보

이건 “보수적”이라서가 아니라, 리스크 비용이 압도적으로 크기 때문에 합리적인 선택입니다.

3) ‘규제 친화적 로그’가 결국 제품 경쟁력이다

조사 국면에서 기업을 살리는 건 홍보 문구가 아니라 재현 가능한 로그와 설명 가능성입니다.

• 스쿨버스 이벤트 자동 태깅(점멸등, STOP 사인, 도로 구조, 속도)
• 의사결정 트레이스(왜 멈췄는지/왜 안 멈췄는지)
• 업데이트 전후 비교 리포트(통과율, 급제동률, 근접 이벤트)

자율주행에서 **설명 가능한 안전 로그는 ‘규제 대응’이자 ‘QA 자산’**이에요. 자동차 산업의 품질 관리(Quality) 관점에서도 같은 결론이 나옵니다.

현장 운영(로보택시) 관점: 업데이트보다 중요한 건 ‘변화 관리’

로보택시는 공장 출고 후 끝이 아니라, 운영하면서 계속 품질이 정의되는 제품입니다. 이번처럼 스쿨버스 이슈가 발생했을 때, 성숙한 조직은 다음 순서로 움직입니다.

스쿨버스 안전 이슈 대응 플레이북(권장)

1. 즉시 완화 조치: 문제 지역/시간대 제한, 속도 제한 강화, 원격 모니터링 확대
2. 케이스 수집: ‘스쿨버스 관련’ 이벤트를 자동 수집하고 라벨링
3. 원인 분해: 인식/규칙/지도/계획/제어 중 어디서 실패했는지 분류
4. 수정 + 회귀 테스트: 유사 상황(역광, 야간, 비/안개, 반사판)까지 포함
5. 현장 검증: 제한된 플릿에 단계적 배포(canary)
6. 규제 커뮤니케이션: 업데이트 내용 + 검증 결과 + 재발 방지책 보고

여기서 많은 회사가 4번에서 넘어집니다. 회귀 테스트가 약하면, ‘고친 줄 알았는데 다른 곳이 깨지는’ 전형적인 문제가 생겨요. 자율주행 AI는 기능이 얽혀 있어서, 한 정책을 보수적으로 만들면 주행이 지나치게 소극적이 되거나 교통 흐름을 방해할 수 있습니다. 그래서 테스트는 “스쿨버스만”이 아니라 “스쿨버스 때문에 바뀐 주행 성격 전체”를 봐야 합니다.

자동차 산업 관점에서의 교훈: ADAS부터 자율주행까지 통한다

이 이슈를 로보택시 이야기로만 보면 놓치는 게 있습니다. 스쿨버스 대응은 **ADAS(첨단 운전자 지원 시스템)**에도 그대로 들어옵니다.

• 카메라 기반 Traffic Sign Recognition은 스쿨버스 STOP 사인을 일반 표지판과 다르게 처리해야 함
• AEB(자동 긴급 제동)은 보행자(특히 어린이) 출현 가능성에 대한 보수적 설정이 필요
• Driver Monitoring은 운전자 개입이 필요한 경우 경고 타이밍이 핵심

즉, “자율주행 AI 안전”은 특정 기업만의 숙제가 아니라 자동차 산업 전체의 품질 체계로 연결됩니다. 제가 현장에서 자주 보는 성공 패턴은 이거예요.

• 기능 개발팀과 안전/컴플라이언스 팀이 분리돼 서로 문서로만 소통하면 실패
• 데이터·테스트·규정 해석을 한 테이블에서 합의하는 조직이 빠르게 개선

자율주행에서 안전은 기능이 아니라, 조직이 만들어내는 결과물입니다.

실무자에게 유용한 체크리스트: “스쿨버스 안전”을 제품 요구사항으로 바꾸기

자율주행 또는 ADAS 팀이 바로 적용할 수 있는 요구사항 형태로 정리해보면 다음과 같습니다.

• 인식 요구사항: STOP 사인 전개/점멸등 상태를 최소 X ms 내 판별
• 정지 정책: 불확실성 구간에서 ‘정지/감속’ 기본값 정의(최대 속도 Y km/h)
• 지도/도로 구조: 중앙분리대/왕복차로 판별 정확도 및 실패 시 안전 동작
• 회귀 테스트 세트: 역광, 야간, 비/안개, 반사, 가림(occlusion), 공사 구간 포함
• 운영 모니터링: 스쿨버스 이벤트 KPI(정지 준수율, 급제동률, 근접 이벤트) 상시 대시보드화

여기서 중요한 건 숫자 그 자체보다 측정 가능하게 만드는 것입니다. 측정이 되면 개선이 됩니다. 측정이 안 되면 “느낌상 좋아졌다”로 끝나요.

다음 단계: 자율주행 AI가 ‘신뢰’로 가는 길

Waymo 사례처럼, 스쿨버스는 자율주행 시스템이 현실의 규칙과 윤리, 그리고 예측 불가능한 행동을 동시에 다뤄야 하는 장면입니다. 규제기관의 질문이 반복되는 건 당연합니다. 반복 가능성이 있는 위험은 반복적으로 확인해야 하니까요.

‘자동차 산업 및 자율주행에서의 AI’ 시리즈에서 제가 계속 강조하는 메시지는 하나입니다. 자율주행 AI는 데모가 아니라 운영 제품이고, 운영 제품의 안전은 업데이트 속도보다 검증의 깊이로 결정됩니다.

로보택시, ADAS, 차량 품질 관리까지—여러분 조직은 스쿨버스 같은 “예외처럼 보이지만 실제로는 핵심인” 시나리오를 얼마나 제품 요구사항으로 명확히 정의하고 있나요? 다음 업데이트에서 바뀌는 건 코드가 아니라, 신뢰의 잔고일지도 모릅니다.