2.1 추론 보강형 E2E/VLA 자율주행

DriveLM은 주행 장면을 그래프 기반 시각 질의응답으로 구조화하고 ^[3], DriveVLM은 VLM의 장면 이해와 계획을 결합한다 ^[4]. Alpamayo-R1은 CoC 추론과 행동/궤적 예측을 연결하여 긴 꼬리 상황에서의 일반화를 목표로 한다 ^[5]. 한편 자율주행 VLM의 신뢰성 연구는 장면 이해와 행동 추론의 평가 지표 및 데이터 품질 문제를 지적한다 ^[6]. 본 연구는 객체 환각이나 CoC의 일반적 사실 오류를 다시 검출하기보다, 동일한 행동 목표를 달성하는 후보 안에서 명시된 허용조건을 학습하고 적용할 수 있는지를 다룬다.

2.2 주행 안전 제약과 검증

자율주행 안전 연구는 안전거리, 책임 민감 안전 모델, 도달 가능성, 실행시간 감시기(runtime monitor)와 차단장치(shield)처럼 실행 단계에서 제약을 검사하는 방법을 발전시켜 왔다 ^{[7], [8]}. 시나리오 명세 및 폐루프 시험은 보지 않은 조합에서 학습 정책의 취약성을 발견하는 데 사용된다 ^{[9], [10]}. 이러한 방법은 정밀한 제약 집행에 적합하지만 자연어 추론과 실행 계약 사이의 인터페이스는 별도 문제다.

그림 2 제안 평가의 흐름. 왼쪽의 장면ㆍ기본 CoCㆍ실행 가드를 모델에 입력하면 모델이 가운데의 후보 A–D 중 하나를 선택한다. 오른쪽의 규칙 기반 검증기는 선택된 후보의 정지 위치, 간격, 속도 및 시간을 가드의 기준값과 비교하여 가드 위반률, 가드 준수 목표 완료율 및 계약 쌍 정확도를 계산한다. 검증기는 모델의 자기평가가 아니라 후보 수치에 결정 규칙을 적용한다.

Fig. 2 Evaluation pipeline from scene, basic CoC, and execution guard through candidate selection to model-external deterministic metric computation

2.3 자연어와 정형 명세의 역할

자연어는 사전학습 VLM이 처리하기 쉬우며 사람에게 편리하지만, 부정 범위, 단위 및 경계 연산자가 모호할 수 있다. 정형 명세는 정확한 판정과 실행 단계의 강제 적용에 적합하지만 기반 VLM이 임의 논리 문법을 즉시 실행할 것이라고 가정할 수 없다. 본 논문은 두 표현을 경쟁 관계로 두지 않는다. 자연어 Safety-Constrained CoC를 학습 인터페이스로 평가하고, 수치 판정은 모델 외부의 결정적 검증기로 계산한다. 자연어에서 구조화 계약(typed contract)으로의 변환은 후속 연구로 남긴다.

2.4 차별점

본 연구는 실제 사고 궤적을 필요로 하지 않는다. 정적 과제에서는 모든 후보가 CoC 목표를 달성하되 가드 준수 여부와 진행도가 다르게 구성하고, 시간 과제에서는 계속 정지하는 교착 대조군을 추가한다. 또한 동일 장면의 계약만 바꾸는 쌍대 계약과 제약–정답 대응 교란 통제군을 사용하여 위반 감소와 목표 완료를 함께 평가한다.

표 1은 연구 공백과 본 연구의 위치를 요약한다. 기존 driving VLM/CoC의 중심은 장면 이해와 행동 근거를 포함한 계획이고, 형식 실행 검증의 중심은 이미 주어진 명세의 정확한 판정과 강제 적용이다. 본 연구는 두 흐름의 성능을 대체하거나 직접 비교하지 않는다. 자연어 가드를 CoC 학습 입력에 포함하고, 동일 장면의 가드만 바꾸는 반사실적 평가와 모델 외부 수치 판정을 연결하는 중간 인터페이스를 제안한다.

3.1 표 2로부터 S-C CoC 구성

표 2는 하나의 완성된 안전 명세가 아니라 장면과 행동 목표에 따라 선택하는 실행 가드의 구성 요소를 제시한다. 표에 정리된 일곱 가지 가드 유형의 집합을 $G_{\text{tax}}$라 하고, 장면 $x$와 요구사항 $R$에 필요한 가드의 부분집합을 $S(x, R)$라 하면, 실행 가드와 S-C CoC의 구성 관계는 다음과 같이 나타낼 수 있다.

여기서 $\oplus$는 행동 요구사항과 선택된 가드 문장을 하나의 S-C CoC로 결합함을 뜻한다. 표의 모든 유형을 항상 사용하는 것은 아니며, 장면과 목표에 관련된 조건만 선택한다. 보행자 양보 예. 기본 CoC가 “보행자에게 양보한 뒤 진행한다”라면 활성화, 불변 조건, 수치 경계, 해제 조건 및 대체 동작을 선택할 수 있다. 이때 표 2로부터 다음 S-C CoC를 구성할 수 있다. 보행자가 상충 구역에 있으면 양보 의무를 활성화한다. 의무가 활성화된 동안 정지선을 넘지 않고 감속도를 4 m/s² 이하로 유지한다. 관측이 불확실하면 정지 상태를 유지한다. 상충 구역이 1.5초 이상 연속으로 비어 있을 때만 의무를 해제하고 출발한다. 이 문장은 단순히 “양보한다”는 목표뿐 아니라 정지 위치, 감속 한계, 불확실할 때의 행동 및 출발 허용 시점을 함께 규정한다. 차선 변경 예. 기본 CoC가 "안전하게 목표 차선으로 이동한다"라면 수치 경계, 금지 조건, 해제 조건 및 종료 조건을 선택할 수 있다. 구성된 S-C CoC는 다음과 같다. 목표 차선의 차량 간격이 6 m 미만이면 차선 변경을 계속하지 않는다. 안전 간격이 다시 확보되면 차선 변경을 재개할 수 있다. 목표 차선에 진입한 뒤 안전 간격이 유지될 때 차선 변경을 완료한다. 이 예에서는 같은 차선 변경 목표라도 차량 간격에 따라 계속 진행, 중단, 재개 및 완료 시점이 달라진다.

표 2만으로 장면에 필요한 S-C CoC가 자동으로 결정되는 것은 아니다. 장면에서 관측 가능한 상태와 기본 CoC의 행동 목표를 함께 사용하여 관련 가드를 선택해야 한다. 따라서 본 연구의 가드는 현재 데이터와 궤적 후보에서 측정 가능한 실행 의무를 구조화한 부분 계약이며, 완전한 도로 안전 명세를 의미하지 않는다.

4.1 제안 방법의 전체 흐름

그림 2의 과정은 세 단계로 이루어진다. 첫째, 모델에 장면 이미지, 기본 CoC, 실행 가드와 궤적 후보를 준다. 기본 CoC는 "보행자에게 양보한 뒤 진행한다"처럼 달성할 행동을 말한다. 실행 가드는 "정지선을 넘지 않는다" 또는 "차량이나 보행자의 이동 경로가 겹치는 구역이 1.5초 동안 비어 있을 때만 출발한다"처럼 그 행동을 언제, 어느 범위에서 허용할지를 정한다. 각 후보에는 정지 위치, 속도, 감속도, 가가속도(가속도가 변하는 정도), 차량 간격과 진입 시점이 함께 적혀 있다.

그림 3 쌍대 계약의 차선 변경 예. 장면, CoC 목표, 현재 간격 7.2 m 및 후보 A/B는 고정하고 최소 간격만 5.5 m에서 9.0 m로 바꾼다. 완화 계약에서는 즉시 차선 변경하는 후보 A가 허용되지만, 엄격 계약에서는 같은 후보가 최소 간격을 위반하므로 중단 후 재시도하는 후보 B를 선택한다.

Fig. 3 Paired-contract lane-change example with fixed scene, objective, current gap, and candidates but different minimum-gap contracts.

둘째, 모델은 이미지와 문장을 읽고 후보 하나를 선택한다. 셋째, 모델 외부의 결정적 검증기(verifier)가 선택된 후보의 수치를 다시 계산한다. 예를 들어 정지선을 넘었는지, 최소 간격을 지켰는지, 필요한 시간만큼 기다렸는지를 확인한다. 따라서 모델이 스스로 "안전하다"고 답한 것만으로 정답으로 인정하지 않는다. 모델의 선택과 검증기의 계산 결과가 모두 맞아야 가드를 지킨 선택으로 판정한다. 다만 후보 수치, 정답 생성 규칙과 검증 규칙은 같은 합성 과제 정의에서 만들어졌으므로, 이 검증기는 모델과는 분리되어 있지만 계약 자체의 타당성을 확인하는 외부 안전 정답은 아니다.

4.2 CoC와 실행 가드의 입력 방식

본 연구는 기본 CoC에 실행 가드를 결합한 형식을 제안한다. 예를 들어 기본 CoC가 "횡단보도 앞 보행자에게 양보한 뒤, 허용되면 진행한다"라면 다음 조건을 덧붙일 수 있다.

정지선을 넘지 않는다. 최대 감속도는 3.8 m/s², 최대 가가속도는 5.0 m/s³를 넘지 않는다. 상충 구역이 정해진 시간 동안 비어 있을 때만 출발한다.

이 실행 가드를 기본 CoC 뒤에 이어서 한 문장 묶음으로 제시한 방식을 제약 통합 CoC라 한다. 이것이 본 논문의 Safety-Constrained CoC를 실험에 구현한 제안 조건이다. 모델은 이 입력에서 "무엇을 해야 하는가"와 "그 행동을 언제 허용하는가"를 함께 읽는다. 다만 성능이 좋아지더라도 그 이유가 가드의 의미를 배웠기 때문인지, 단순히 문장이 더 길어졌기 때문인지 구분해야 한다. 이를 위해 표 3의 다섯 조건을 비교한다. 표와 그림 내부는 영어로 통일하여 각각 Basic CoC (no constraint), Constraint-integrated CoC (proposed), Separate natural-language constraint, Shuffled constraint–target mapping, Logical-form constraint로 표시한다.

특히 제약–정답 대응 교란은 음성 통제군이지 제안 방법이 아니다. 이 조건에도 동일한 제약 문장 집합이 들어가지만, 학습할 때 다른 예의 제약 문장을 옮겨 제약과 정답 후보의 연결을 깨뜨린다. 평가는 다시 올바른 제약으로 수행한다. 따라서 올바른 대응을 학습한 조건만 높은 성능을 보인다면, 단순히 문장이 길어지거나 제약 관련 단어가 들어간 효과로 설명하기 어렵다.

시간 과제에서는 두 개의 통제된 대비를 분리한다. 첫째, 제약 통합 CoC와 별도 자연어 제약은 동일한 가드 문장, 장면, 후보, 정답, 384개 학습 예, 3 epoch 및 최적화 설정을 사용한다. 차이는 가드를 기본 CoC 문장 뒤에 이어 붙이는지, 동일 문장을 별도 Temporal safety guard 필드에 두는지뿐이므로 이 비교는 위치ㆍ구획 형식의 효과를 측정하는 position-only ablation이다. 둘째, 별도 자연어 제약과 제약–정답 대응 교란은 입력 위치를 같게 유지하고 학습 시 가드와 정답의 대응만 깨뜨리므로 올바른 의미 대응의 필요성을 측정한다. 이 두 대비는 위치 효과와 대응 효과를 구분하지만, 시간 과제에 통합 위치의 대응 교란 조건이 없으므로 완전한 2 × 2 요인 설계는 아니다. 따라서 제약 통합 CoC와 대응 교란의 전체 차이를 의미 학습만의 효과로 해석하지 않는다. 다중 주행 과제에서는 제약 통합 CoC와 대응 교란이 같은 형식이다. 논리식 제약도 자연어와 논리식 중 어느 쪽이 본질적으로 우수한지 판정하기 위한 조건이 아니라, 현재 VLM과 학습 방법이 두 표현을 얼마나 잘 처리하는지 확인하기 위한 조건이다.

4.3 같은 장면에서 실행 조건만 바꾸는 평가

한 장면으로 정답이 서로 다른 두 문제를 만든다. 두 문제에는 같은 이미지, 같은 CoC 목표와 같은 궤적 후보를 사용한다. 바꾸는 것은 실행 가드뿐이다. 가드가 달라지면 올바른 후보도 달라지게 구성한다. 따라서 모델이 두 문제를 모두 맞히려면 장면만 보고 같은 답을 반복해서는 안 되고, 가드를 읽은 뒤 선택을 바꾸어야 한다. 이 두 문제의 묶음을 쌍대 계약(paired-contract)이라 한다.

그림 3은 차선 변경 예에서 무엇이 고정되고 무엇이 바뀌는지를 보여준다. 두 계약 모두 현재 차량 간격은 7.2 m이며 후보도 같다. 후보 A는 현재 간격에서 바로 차선을 변경하고, 후보 B는 차선 변경을 중단한 뒤 필요한 간격이 확보되면 다시 시도한다. 최소 간격이 5.5 m인 완화 계약에서는 $7.2 \ge 5.5$이므로 후보 A가 허용되고 진행도가 높은 후보 A를 선택한다. 반면 최소 간격이 9.0 m인 엄격 계약에서는 $7.2 < 9.0$이므로 후보 A가 가드를 위반하고 후보 B를 선택해야 한다. 즉, 완화 계약과 엄격 계약은 장면이 아니라 허용 기준만 다르다. 모델이 두 문제에 같은 후보를 답하면 적어도 하나는 틀린다. "계약 쌍 정확도"는 두 문제를 모두 맞혔을 때만 그 쌍을 정답으로 계산한다. 이 값이 높을수록 모델이 최소 간격의 변화를 읽고 선택에 반영했다고 볼 수 있다.

시간 과제에서는 행동이 다른 네 후보를 사용한다. 모델은 A, B, C, D 중 하나를 답하지만, 이 문자는 후보를 구별하기 위한 이름일 뿐이다. 예를 들어 A가 언제나 조기 진입을 뜻하는 것은 아니다. 표 4는 후보가 실제로 수행하는 네 가지 행동을 보여준다. 한 장면에서는 A가 조기 진입이고 B가 짧은 대기일 수 있다. 다음 장면에서는 문자와 행동의 대응을 바꾸어 A가 긴 대기를 나타내게 할 수 있다. 이렇게 하면 모델이 항상 같은 문자만 고르는 방법으로 정답을 외울 수 없다. 정적 실험은 두 후보 A/B를, 시간 및 다중 주행 실험은 네 후보 A/B/C/D를 사용한다. 어느 실험에서도 특정 문자가 항상 안전하거나 항상 위험한 행동을 뜻하지 않는다.

4.4 모델 학습과 정답 후보 생성

기반 모델은 Qwen3-VL-2B-Instruct이다. 전체 모델을 다시 학습하지 않고 일부 추가 매개변수만 조정하는 LoRA 방식을 사용한다. 모델이 한 번에 받는 학습 자료는 다음 다섯 부분으로 구성된다.

1. 장면을 나타내는 합성 이미지,

2. 달성해야 할 행동을 설명하는 기본 CoC,

3. 실험 조건에 따른 실행 가드,

4. 각 후보의 행동과 측정값을 적은 설명,

5. 허용되는 후보 중 진행도가 가장 높은 후보를 고르라는 지시.

모델은 후보 문자 하나를 답한다. 정답은 다음 세 단계로 정한다. 먼저 CoC의 행동 목표를 끝내지 못한 후보를 제외한다. 그다음 실행 가드를 위반한 후보를 제외한다. 마지막으로 남은 후보 중에서 가장 원활하게 진행하는 후보를 정답으로 삼는다. 모든 장면에는 목표와 가드를 함께 만족하는 후보가 적어도 하나 있다. 이는 식 (1)을 학습 자료 생성에 그대로 적용한 것이다.

예를 들어 가장 빨리 진행하는 후보가 최소 간격을 위반하면 정답이 될 수 없다. 반대로 가드 위반을 피하기 위해 끝까지 정지하는 후보도 행동 목표를 완료하지 못하므로 정답이 아니다. 모델은 "진행"과 "가드 준수"를 동시에 만족하는 후보를 찾아야 한다.

4.5 모델 외부 궤적 검증과 평가 지표

모델의 답은 A와 같은 후보 문자일 뿐이다. 이 답이 실제로 가드를 지켰는지는 별도 검증기가 계산한다. 검증기는 표 5의 수치를 후보 데이터에서 읽고 가드의 기준과 직접 비교한다. 예를 들어 최소 간격이 9.0 m라면 선택한 후보의 간격이 9.0 m 이상인지 확인한다.

표 6은 평가에 사용한 지표를 정리한다. 비율의 분모는 별도 표기가 없으면 해당 평가의 전체 예다. 이 가운데 "가드 준수 목표 완료율"은 두 가지를 동시에 만족한 비율이다. 첫째, 선택한 후보가 CoC의 행동 목표를 완료해야 한다. 둘째, 실험에서 제시한 실행 가드를 모두 지켜야 한다. 이 지표는 실제 도로의 모든 위험이 제거되었다는 뜻은 아니다.

모델 외부 검증을 사용하는 이유는 모델의 설명이나 자기평가와 실제 수치 판정을 분리하기 위해서다. Candidate accuracy는 생성 규칙이 정한 최적 후보와의 일치를, guard violation rate는 선택 후보가 명시된 경계를 넘었는지를, guard-compliant goal completion은 준수와 목표 달성을 동시에 측정한다. Deadlock과 excess-conservatism은 위반률만 낮추기 위한 정지 또는 불필요한 감속을 드러낸다. Paired-contract accuracy는 같은 장면에서 가드가 바뀔 때 두 선택을 모두 맞혔는지를 측정한다. 따라서 한 지표의 높은 값만으로 성공을 선언하지 않고, 외부 검증 결과와 상호 보완적인 지표를 함께 사용한다.

평가 장면 쌍이 $N$개이면 후보 정확도는 $2N$개의 개별 계약 문제 중 맞힌 비율이고, 계약 쌍 정확도는 $N$개 장면 중 완화ㆍ엄격 계약을 모두 맞힌 비율이다. 예를 들어 두 장면 쌍에서 첫 쌍의 두 계약과 둘째 쌍의 완화 계약만 맞히면 후보 정확도는 $3/4 = 0.75$이지만 계약 쌍 정확도는 $1/2 = 0.50$이다. 두 계약에 항상 같은 후보를 답하는 모델은 각 쌍에서 한 문제를 맞혀 후보 정확도 0.50을 얻을 수 있지만, 계약에 따라 선택을 전환하지 못하므로 계약 쌍 정확도는 0이다. 따라서 계약 쌍 정확도는 단순히 더 어려운 정확도가 아니라, 동일한 장면ㆍ목표ㆍ후보에서 가드 변화에 맞추어 두 선택을 모두 올바르게 전환하는 능력을 추가로 측정한다.

4.6 학습된 가드 준수와 실제 실행 안전의 구분

본 연구가 확인하는 것은 모델이 주어진 후보 중에서 가드를 지키는 후보를 더 잘 고를 수 있는가이다. 이것은 실제 차량에서 충돌을 막는 안전 보장과 다르다. 여기서 사용한 검증기는 합성 과제의 규칙으로 실험 결과를 계산하는 도구이며, 차량의 명령을 실시간으로 막거나 수정하는 차단 장치가 아니다.

두 개념을 구분하는 이유는 평가 단위와 고려하는 실패 원인이 다르기 때문이다. 학습된 가드 준수는 유한한 합성 후보와 연구자가 제공한 부분 계약 안에서 Goal과 Sat를 만족하는 선택의 비율이다. 실제 실행 안전은 센서 오인식, 계약에 빠진 위험, 연속 궤적 오차, 차량 동역학, 다른 도로 사용자의 반응 및 지연된 상태 갱신까지 포함하는 폐루프 성질이다. 따라서 후보 평가에서 준수율이 1.000이더라도 가드가 불완전하거나 관측이 틀리면 실제 차량은 위험할 수 있다. 이 구분은 높은 합성 점수를 안전 보장으로 확대하는 범주 오류를 막고, 최신 상태를 사용하는 외부 검증기와 차단장치가 별도로 필요한 이유를 드러낸다.

실제 차량에 적용하려면 두 단계가 더 필요하다. 먼저 자연어 가드에서 조건의 종류, 비교 방향, 수치, 단위와 조건을 지킬 수 없을 때의 대체 행동을 정확히 추출해야 한다. 예를 들어 "최소 간격 9 m"를 "거리, 이상, 9, m"처럼 일정한 형식으로 바꾸고 단위도 통일해야 한다. 다음으로 모델이 만든 궤적을 출처가 추적되는 안전 요구사항에 연결된 외부 검증기나 실행 차단 장치가 다시 검사해야 한다. 따라서 본 연구는 제한된 후보 선택 과제에서 가드 준수를 학습할 수 있음을 보일 뿐, 실제 도로의 완전한 안전 명세나 차량 안전을 보장하지 않는다.

5.1 Alpamayo-R1 사전학습 상태 진단

확인 목적. 첫 실험의 질문은 간단하다. 학습하지 않은 가드 문장을 Alpamayo-R1의 CoC에 추가하면, 관찰한 장면에서 모델이 그 의미에 맞게 궤적을 바꾸는가? 이 실험은 차량 안전이나 Alpamayo-R1의 일반 성능을 평가하지 않는다. 별도의 가드 학습 없이 문장만 추가해도 되는지를 한 장면과 세 가지 행동 생성 초기값에서 먼저 확인하는 진단 실험이다. 비교 방법. 장면과 기본 CoC는 그대로 두고 추가 문장만 바꾸었다. 하나는 기다리라는 가드이고, 다른 하나는 그와 반대로 진행을 허용하는 가드이다. 행동과 관계없는 문장도 비교에 사용하였다. 먼저 기본 CoC에 문장을 추가했을 때 2초 뒤 궤적이 얼마나 달라졌는지 계산하였다. 다음으로 서로 반대되는 두 가드가 만든 궤적의 차이를 계산하였다. 첫 번째 값은 모델이 추가 문장에 반응했는지를 보여준다. 두 번째 값은 단순히 문장이 들어온 것에 반응한 것이 아니라, 기다림과 진행이라는 반대 의미를 구별했는지를 보여준다. 결과. 그림 4에서 문장을 추가한 궤적은 기본 CoC의 궤적과 2초 뒤 0.263 m 차이가 났다. 즉, 모델은 추가 문장에 반응하였다. 그러나 기다리라는 가드와 진행을 허용하는 가드 사이의 차이는 0.008 m에 불과했다. 의미. 관찰한 한 장면에서는 CoC에 문장을 추가하는 것 자체의 변화가 컸지만, 서로 반대되는 가드 사이의 의미 대비는 8 mm에 그쳤다. 이 변위는 준수 여부가 아니라 2초 뒤 궤적 차이를 재는 대리 지표이므로 Alpamayo-R1 전체의 의미 이해 실패로 일반화할 수 없다. 다만 이 진단만으로는 가드 문장을 넣는 것만으로 준수를 기대할 근거가 부족하다. 다음 실험에서는 별도의 작은 VLM에 가드와 올바른 행동의 관계를 직접 학습시킨다.

그림 4 Alpamayo-R1 사전 진단. 첫 막대 0.263 m는 문장을 추가했을 때 기본 CoC와 달라진 정도이므로 ‘추가 문장에 대한 반응’을 나타낸다. 두 번째 막대 0.008 m는 대기 가드와 반대 가드의 차이이므로 ‘반대 의미의 구별’을 나타낸다. 두 번째 값이 매우 작아 이 한 장면만으로 의미에 맞는 가드 준수를 확인할 수 없다.

Fig. 4 Alpamayo-R1 pre-training diagnostic: sensitivity to added text is much larger than the trajectory contrast between opposite guard meanings.

5.2 최소 가드-행동 학습과 초기 과제의 한계

확인 목적. 두 번째 실험은 작은 VLM이 "이 가드에서는 정지하고, 저 가드에서는 진행한다"는 대응을 학습할 수 있는지 확인한다. 동시에 정지와 진행만 구분하는 쉬운 문제가 가드의 효과를 실제보다 크게 보이게 할 수 있는지도 확인한다. 비교 방법. 후보는 정지(STOP)와 진행(PROCEED) 두 가지로 만들었다. 첫 조건에서는 가드와 정답 행동을 올바르게 연결했다. 비교 조건에서는 같은 가드 문장을 사용하되 정답 행동과의 연결을 일부러 섞었다. 이 비교를 통해 모델이 단순히 문장을 받은 효과와 가드의 올바른 의미를 배운 효과를 구분한다. 평가는 학습에 사용하지 않은 장면과, 같은 뜻을 다른 문장으로 표현한 경우로 나누었다. 쉬운 과제에서는 학습량의 차이가 결과에 영향을 주지 않도록 기존 CoC와 CoC+Guard의 학습 횟수도 같게 맞추었다. 결과. 표준 평가에서 올바른 제약–정답 대응을 학습한 조건의 후보 정확도는 0.990, 계약 쌍 정확도는 0.958이었다. 반면 제약–정답 대응을 교란한 통제군은 각각 0.719와 0.000이었다. 이는 올바른 제약–행동 관계를 학습하면 학습에 쓰지 않은 장면에서도 두 계약을 구별할 수 있음을 보여준다. 그러나 동일 의미 문장 변형 평가에서는 두 조건의 후보 정확도가 0.740과 0.745였고, 계약 쌍 정확도는 모두 0이었다. 즉, 표준 문장과 비슷한 입력에는 대응했지만 같은 뜻의 새로운 표현으로 일반화하지는 못했다.

또한 학습 자료가 충분한 쉬운 과제에서는 기존 CoC만 사용해도 후보 정확도 0.974와 계약 쌍 정확도 0.896에 도달했고, CoC+Guard는 1.000과 1.000이었다. 학습 횟수를 같게 맞춘 사후 비교에서는 두 조건 모두 두 지표가 1.000이었다. 의미. 두 가지를 알 수 있다. 첫째, 작은 VLM은 가드와 행동의 관계를 학습할 수 있다. 둘째, 쉬운 정지/진행 문제에서는 가드가 없어도 장면만 보고 정답을 외울 수 있다. 이 경우 CoC+Guard의 높은 정확도가 정말 가드를 읽은 결과인지 분명하지 않다. 따라서 정적 실험은 모든 후보가 같은 CoC 목표를 달성하게 만들고, 시간 및 다중 주행 실험은 목표를 완료하는 경쟁 후보에 계속 정지하는 교착 후보를 더하여 가드 준수와 진행성을 함께 측정한다.

5.3 동일 목표를 달성하는 정적 궤적 후보

확인 목적. 이 실험에서는 모든 후보가 "교차로를 통과한다"는 같은 목표를 달성한다. 따라서 모델은 목표 달성 여부만으로 정답을 고를 수 없다. 현재 가드가 어느 후보를 허용하는지 읽어야 한다. 비교 방법. 두 후보 모두 교차로를 통과하지만 최대 속도, 장애물과의 최소거리, 진입 시점과 진행 속도가 다르다. 같은 장면에서 완화 계약은 더 빠른 후보를 허용하지만, 엄격 계약은 그 후보를 금지하고 더 신중한 후보를 허용한다. 표 3의 기본 CoC, 제약 통합 CoC, 별도 자연어 제약, 제약–정답 대응 교란 및 논리식 제약을 비교하였다. 두 계약의 정답을 모두 맞혀야 하는 계약 쌍 정확도를 핵심 지표로 사용하였다.

이 정적 결과는 난수 초기값(seed) 42를 사용한 단일 학습 반복이다. 학습 자료는 96개 장면에서 만든 576개 예이고, 분리 평가는 24개 장면에 세 종류의 가드를 각각 쌍으로 적용한 144개 예다. 따라서 표 8의 작은 차이를 데이터 생성이나 학습 난수에 대해 안정적인 차이로 해석하지 않는다. 결과. 표 8은 각 행이 무엇을 의미하는지 두 단계로 읽어야 한다. 먼저 마지막 열이 모두 1.000이므로 어느 조건도 교차로 통과 목표를 포기하지 않았다. 그다음 위반률과 계약 쌍 정확도를 보면, 제약 정보가 없는 기본 CoC는 선택의 0.250에서 가드를 위반했고 완화ㆍ엄격 계약을 모두 맞힌 장면은 없어 계약 쌍 정확도가 0.000이었다. 엄격 계약 72개만 분모로 한 원 저장 위반률은 0.500이지만, 다른 표와 정의를 맞추기 위해 여기서는 전체 144개 예 기준인 0.250을 사용하였다. 제약–정답 대응을 교란한 통제군의 계약 쌍 정확도도 0.153에 머물렀다.

반면 제약 통합 CoC와 논리식 제약은 위반률 0.000, 과도한 보수 선택률 0.000, 계약 쌍 정확도 1.000을 기록하였다. 별도 자연어 제약도 전체 예 기준 위반률 0.007과 계약 쌍 정확도 0.986을 기록하였다. 입력 형식이 같은 별도 자연어 제약과 제약–정답 대응 교란의 계약 쌍 정확도 차이 0.833은 제약 문장을 추가하는 것만으로는 부족하고, 올바른 제약–정답 대응을 학습해야 함을 보여준다.

동일 의미 문장 변형 평가의 후보/계약 쌍 정확도는 제약 통합 CoC 0.875/0.750, 별도 자연어 제약 0.924/0.847, 논리식 제약 1.000/1.000이었다. 미관측 수치 평가에서는 각각 1.000/1.000, 0.951/0.903, 0.924/0.847이었다. 여기서 슬래시 앞은 개별 문제의 후보 정확도, 뒤는 같은 장면의 두 계약을 모두 맞힌 계약 쌍 정확도다. 의미. 제약 통합 CoC는 항상 정지하는 방법으로 위반을 피한 것이 아니다. 모든 후보가 목표를 완료했고, 그중 현재 계약이 허용하는 가장 진행도가 높은 후보를 골랐다. 따라서 이 결과는 모델이 실행 가드를 정적 후보 선택에 사용했음을 보여준다. 다만 정적 과제에서 논리식 제약이 높은 성능을 보였다는 이유만으로 논리 표현이 언제나 더 좋다고 결론 내릴 수는 없다. 다음 시간 과제에서는 다른 결과가 나타난다.

5.4 정지-대기-해제-출발 시간 조건

확인 목적. 앞 실험은 속도나 거리처럼 한 시점의 기준을 다루었다. 이번 실험은 "얼마나 오래 기다려야 하며 언제 출발해도 되는가"라는 시간 조건도 모델이 배울 수 있는지 확인한다. 비교 방법. 장면과 네 후보는 그대로 두고, 상충 구역이 비어 있는 것을 확인한 뒤 기다려야 하는 시간만 바꾸었다. 완화 계약은 짧게 기다린 뒤 출발하는 후보를 허용하고, 엄격 계약은 더 오래 기다린 후보만 허용한다. 후보는 조기 진입, 짧은 대기 후 진입, 긴 대기 후 진입과 계속 정지로 구성하였다. 각 난수 초기값에서 192개 장면으로 만든 384개 예를 학습하고, 48개 장면으로 만든 96개 계약 예를 평가하였다. 난수 초기값 42, 17, 123은 모델 초기화와 학습 순서뿐 아니라 합성 장면의 값과 후보 문자 배치도 함께 바꾼다. 따라서 세 반복은 전체 절차의 반복성을 보지만, 데이터를 고정한 채 최적화 분산만 분리하지는 않는다. 네 시점을 이어 붙인 연속 장면 영상에는 시각적 상태와 시간이 글자로 표시되고 후보 설명에는 후보 진입 시각이 적혀 있다. 저장한 어댑터를 재학습하지 않고 원본 영상, 정보가 없는 단색 영상, 실제와 다른 ‘상충 구역이 비기 시작한 시각’을 표시한 충돌 영상으로 각각 다시 평가하여 영상 정보의 기여를 분리하였다. 결과. 표 9는 학습과 같은 문장 틀ㆍ시간값 범위를 사용한 표준 평가다. 제약 통합 CoC는 세 번의 반복 모두 가드 위반률 0.000, 가드 준수 목표 완료율 1.000, 계약 쌍 정확도 1.000을 기록하였다. 같은 연속 장면 영상에서 짧은 대기를 요구하면 짧은 대기 후보를, 긴 대기를 요구하면 긴 대기 후보를 골라 두 계약을 모두 맞힌 것이다. 반면 제약 정보가 없는 기본 CoC는 두 계약에 같은 입력을 받으므로 계약 쌍 정확도가 0.000이고 가드 위반률은 $0.319 \pm 0.052$였다. 별도 자연어 제약은 평균적으로 기본 CoC와 대응 교란 통제군보다 나았지만 난수 초기값에 따라 차이가 컸다. 대응 교란 통제군과 논리식 제약은 두 대기시간의 차이를 안정적으로 배우지 못했다.

위치만 바꾼 대비에서 제약 통합 CoC와 별도 자연어 제약의 후보 정확도는 각각 1.000과 0.698, 계약 쌍 정확도는 1.000과 0.396이며 가드 위반률은 0.000과 0.191이었다. 반면 같은 별도 필드 형식에서 올바른 대응을 학습한 조건과 대응 교란 조건의 계약 쌍 정확도는 0.396과 0.021이었다. 따라서 전자는 현재 모델에서 목표와 가드를 한 문맥에 배치한 위치ㆍ구획 효과를, 후자는 위치를 고정했을 때 올바른 가드–행동 대응의 효과를 보여준다. 정적 과제에서는 통합/별도 조건의 계약 쌍 정확도가 1.000/0.986으로 위치 효과가 작았으므로, 통합 위치의 이점은 모든 과제에 동일하게 일반화되지 않는다.

그러나 그림 5(a)처럼 제약 통합 CoC의 성능은 입력 변화에 따라 낮아졌다. 제약의 뜻과 수치는 같고 말투만 바꾼 동일 의미 문장 변형 평가에서는 후보 정확도 0.858, 가드 위반률 0.115, 가드 준수 목표 완료율 0.885, 계약 쌍 정확도 0.715였다. 문장 틀은 유지하고 학습에 없던 대기시간을 사용한 미관측 시간값 평가에서는 각각 0.635, 0.351, 0.649, 0.306이었다. 즉 문장 표현만 달라져도 성능이 일부 낮아졌고, 새로운 시간값에서는 더 크게 낮아졌다. 표준 평가의 완벽한 결과가 일반적인 시간 비교 규칙의 학습을 의미하지는 않는다.

저장한 세 난수 초기값의 제약 통합 CoC 어댑터를 다시 실행한 원본 영상 결과는 표 9와 모든 지표에서 정확히 일치하였다. 표 11의 각 셀은 ‘후보 정확도/계약 쌍 정확도’ 순서다. 표준 시간 과제는 원본 1.000/1.000에서 단색 영상 0.670/0.403, 상충 구역이 비기 시작한 시각이 실제와 다른 충돌 영상 0.608/0.340으로 낮아졌다. 단색 영상과 시간 충돌 영상의 가드 위반률도 각각 0.288과 0.208이었다. 따라서 표준 과제의 완벽한 결과는 문장만 읽은 결과가 아니며 연속 장면 영상에 표시된 시간 정보에 의존한다. 반면 미관측 시간값 평가에서는 원본 후보 정확도부터 0.635에 그쳤고 영상 교란이 이를 일관되게 더 낮추지 않았다. 시간 충돌 영상은 문제의 관측 전제 자체를 바꾸므로 그 조건에서 우연히 낮아진 위반률이나 높아진 목표 완료율을 성능 향상으로 해석하지 않는다. 이는 새로운 시간값에서 시각 시간과 수치 관계를 안정적으로 결합하지 못했다는 추가 증거다. 의미. 제약 통합 CoC는 표준 분포의 같은 장면에서도 제약이 요구하는 대기시간에 따라 출발 후보를 바꾸었다. 그러나 미관측 시간값 결과는 이 대응이 일반적인 시간 비교 규칙으로 충분히 일반화되지 않았음을 보여주므로 RQ4에는 부정적인 답을 준다. 기본 CoC는 두 계약에 동일한 입력을 받으므로 결정적 모델이 두 정답을 모두 구별할 수 없는 정보 부재 기준선이다. 따라서 기본 CoC의 후보 정확도 0.500과 계약 쌍 정확도 0.000을 제안 방법의 안전성 우월성으로 해석하지 않는다. 시간 과제에서 입력 형식이 같은 별도 자연어 제약과 제약–정답 대응 교란의 계약 쌍 정확도는 각각 0.396과 0.021이었다. 이 차이가 올바른 제약–정답 대응 학습의 더 직접적인 증거다. 반면 제약 통합 CoC와 대응 교란 조건의 차이에는 입력 위치의 효과도 포함된다. 논리식 제약의 낮은 결과도 논리식 자체가 자연어보다 나쁘다는 뜻은 아니다. 두 표현을 공정하게 비교하려면 논리 문법을 별도로 학습시킨 뒤 다시 평가해야 한다.

5.5 정지ㆍ차선 변경과 복합 표현 변화

확인 목적. 앞 실험의 성공이 대기시간 문제에만 나타난 결과일 수 있다. 이를 확인하기 위해 정지와 차선 변경으로 행동을 넓혔다. 또한 같은 가드를 다른 문장이나 처음 보는 수치로 표현해도 모델이 조건을 지키는지 확인하였다. 비교 방법. 정지 과제에서는 정지선 위치, 최대 감속도와 최대 가가속도를 가드로 사용하였다. 차선 변경 과제에서는 최소 차량 간격과 중단 후 재시도 조건을 사용하였다. 192개 장면마다 완화 계약과 엄격 계약을 하나씩 적용하여 384개 학습 예를 만들었다. 표준 평가, 동일 의미 문장 변형 평가와 미관측 수치 평가는 각각 48개 장면, 즉 96개 계약 문제로 구성하였다. 별도의 복합 표현 변화 평가에는 (1) 측정값이 기준값과 정확히 같은 경계 등호, (2) 부정ㆍ금지 문장, (3) 조건절 순서 변경, (4) 같은 값을 m 대신 cm로 적는 단위 변환을 함께 넣었다. 따라서 이 평가는 네 요인 중 하나의 원인을 분리하는 요인별 실험이 아니라, 여러 표현 변화가 섞인 강건성 시험이다. 저장 어댑터는 원본, 단색 및 반대 행동 종류의 영상에서도 다시 평가하였다.

표준 평가의 반복적인 1.000이 난이도 부족을 가릴 수 있으므로, 위 복합 표현 변화 평가를 hard-case 평가로 명시하여 행동별로도 재집계하였다. 정지 hard-case는 정지선, 감속도 및 가가속도 세 제약을 동시에 적용하고, 완화 계약의 두 수치 상한을 빠른 후보의 측정값과 정확히 같게 두어 판정 여유가 0인 경계 등호를 포함한다. 차선 변경 hard-case도 완화 계약의 최소 간격을 빠른 후보의 측정값과 같게 두고, 간격 미달 시 중단ㆍ재시도하는 조건을 함께 적용한다. 각 난수 초기값의 48개 장면은 정지와 차선 변경을 24개씩 포함하며, 장면마다 완화ㆍ엄격 계약을 적용한 총 96개 문제다. 결과. 표 10의 위쪽 세 행은 표준 평가, 아래쪽 세 행은 복합 표현 변화 평가다. 표준 평가에서 제약 통합 CoC는 정지와 차선 변경 모두 가드 위반률 0.000, 가드 준수 목표 완료율 1.000, 계약 쌍 정확도 1.000을 기록하였다. 즉, 두 행동에서 목표를 완료하면서 완화ㆍ엄격 계약에 따라 정답 후보를 정확히 바꾸었다. 기본 CoC보다 평균 위반률은 0.292 낮았다. 난수 초기값을 단위로 다시 뽑아 계산한 95% 구간은 [0.250, 0.375]였다. 같은 입력 형식을 사용한 제약–정답 대응 교란 통제군보다 계약 쌍 정확도는 0.972 높았고 해당 구간은 [0.938, 1.000]이었다. 따라서 이 차이는 단순한 제약 문장 추가보다 올바른 제약–정답 대응 학습의 효과를 직접 보여준다. 다만 반복이 세 번뿐이고 각 난수 초기값에서 데이터도 함께 바뀌므로 이 구간은 확정적인 통계 결론이 아니라 전체 절차에서 관찰된 범위를 살펴보는 참고값이다.

복합 표현 변화 평가에서 제약 통합 CoC의 가드 위반률은 $0.010 \pm 0.010$, 계약 쌍 정확도는 $0.896 \pm 0.127$로 표준 평가보다 낮아졌다. 오답 15개는 모두 같은 거리를 m 대신 cm로 표현한 문장에서 관찰되었다. 난수 초기값 42의 오답 12개는 가드를 위반하지는 않았지만 필요 이상으로 느린 차선 변경 후보를 선택한 경우였다. 나머지 3개는 난수 초기값 17과 123에서 감속도 또는 가가속도 상한을 넘은 정지 후보를 선택한 경우였다. 부정 표현, 조건절 순서 변경과 m 단위 경계값만 포함한 예에서는 오답이 없었다. 그러나 이 평가는 개별 요인의 효과와 요인 간 상호작용을 분리하도록 설계되지 않았다. 따라서 오답이 cm 표현에 집중되었다는 관찰만으로 단위 변환, 부정 표현, 경계값 또는 절 순서 중 어느 요인이 성능 저하의 주된 원인인지, 각 요인의 기여가 얼마인지를 판정할 수 없다.

단위 정규화 효과를 분리하기 위해 저장된 세 어댑터와 동일한 288개 hard-case 문제를 다시 사용하고, 72개 cm 문장의 수치와 단위만 동등한 m 표현으로 결정적으로 변환한 뒤 재평가하였다. 장면, 후보, 정답, 나머지 문장 및 모델 가중치는 바꾸지 않았다. cm 부분집합의 정답은 57/72(0.792)에서 60/72(0.833)로 3건 회복되었고 회귀한 정답은 없었다. 이에 따라 전체 후보 정확도는 0.948에서 0.958, 계약 쌍 정확도는 0.896에서 0.917로 높아졌으며, 세 건의 안전하지 않은 정지 선택이 모두 교정되어 가드 위반률은 0.010에서 0.000으로 낮아졌다. 그러나 난수 초기값 42의 과도하게 보수적인 차선 변경 오답 12건은 남았다. 비-cm 입력의 예측은 하나도 변하지 않았다. 따라서 이 재평가는 주어진 복합 표현 조건에서 단위 정규화 전처리가 세 건의 수치 안전 오류를 교정했음을 보여준다. 다만 나머지 요인을 각각 조작한 실험은 아니므로, 이 개선이나 남은 12건의 오류만으로 단위 변환 또는 다른 특정 표현 요인을 전체 성능 저하의 주된 원인으로 판정할 수는 없다.

행동별 hard-case에서 제약 통합 CoC의 후보/계약 쌍 정확도는 정지 0.979/0.958, 차선 변경 0.917/0.833이었다. 정지의 가드 위반률은 0.021이었고 차선 변경의 가드 위반률은 0이었지만, 차선 변경에서는 가드를 지키면서도 더 느린 후보를 고른 과도한 보수 선택 때문에 계약 쌍 정확도가 더 낮았다. 이 하락은 표준 평가의 1.000을 일반적인 난제 해결 성능으로 해석할 수 없고, 동시 제약ㆍ경계 등호ㆍ표현 변화가 모델 차이를 드러내는 데 필요함을 보여준다.

다중 주행의 표준 평가와 미관측 수치 평가는 단색 영상과 반대 행동 영상에서도 세 난수 초기값 모두 후보 정확도와 계약 쌍 정확도 1.000을 유지하였다. 복합 표현 변화 평가의 원본/단색/반대 행동 영상은 각각 후보 정확도 0.948/0.906/0.948, 계약 쌍 정확도 0.896/0.813/0.896이었다. 이 과제의 영상은 행동 종류별 고정 도식이고 후보 물리량과 행동 종류가 문장에 직접 적혀 있으므로, 높은 표준ㆍ미관측 수치 결과는 시각적 근거화가 아니라 주로 문장 기반 제약 후보 선택의 증거다. 의미. 제약을 CoC 안에 함께 제시하는 효과는 대기시간뿐 아니라 정지와 차선 변경에서도 나타났다. 그러나 복합 표현 변화 평가에서는 오류가 남았다. 오답이 cm 표현에 집중되었더라도 여러 변화가 함께 포함된 평가이므로 모든 오류의 원인이 단위 변환이라고 확정할 수는 없다. 후속 실험에서는 단위, 부정 표현, 조건 순서와 경계값을 한 번에 하나씩만 바꾸어 원인을 분리해야 한다.

5.6 폐루프 보조 실험

확인 목적. 앞의 실험은 VLM이 미리 주어진 후보를 한 번 선택하는 문제였다. 마지막 실험은 선택 뒤에도 상황이 계속 바뀌는 경우를 살펴본다. 학습된 계약만 사용할 때와, 실행 중 위험한 명령을 막는 차단 장치를 함께 사용할 때를 비교한다. 이 실험은 작은 신경망과 단순한 운동 모델을 사용한 보조 분석이며, 앞의 VLM 결과나 실제 차량과 직접 비교하지 않는다. 비교 방법. 두 층 신경망과 1차원 운동학으로 만든 소규모 폐루프 환경을 사용하였다. 폐루프란 모델이 한 번만 답하는 것이 아니라, 매 시점의 상태를 다시 받아 다음 행동을 계속 정하는 환경을 뜻한다. 상태 전용(State only)은 수치 상태만, 상태+CoC(State + CoC)는 상태와 행동 목표를 입력한다. 동적 계약(Dynamic contract)은 현재 위험에 따라 대기와 출발 허용을 양방향으로 갱신한다. 단조 단계 계약(Monotone-stage contract)은 한 번 출발을 허용하면 위험이 다시 생겨도 대기로 돌아가지 않는다. 계약+차단장치(Contract + shield)는 동적 계약에 더해 실행 직전 위험한 명령을 막는다. 그림의 Delayed 조건은 계약 정보가 실제 상태보다 0.4초 늦게 도착한 경우다.

해제 후 재위험 episode의 핵심상태전이는 $\text{HOLD} \to \text{RELEASED} \to \text{HOLD}$이다. $t = 0$에 출발이 허용되더라도 $t = 0.8$에 다른 차량이 다시 나타나면 기존 허용을 취소하고 대기 가드를 재활성화해야 한다. 동적 계약은 현재 위험을 반영하여 이 역전이를 표현하지만, 단조 단계 계약은 RELEASED에 고정되어 현재 허용 범위를 잘못 나타낸다. 따라서 이 비교는 계약에 해제 조건만 두는 것으로 충분한지, 해제 이후에도 센서 상태에 따라 가드를 되살리는 reversible update가 필요한지를 평가한다.

평가는 두 상황으로 나누었다. 첫째, 학습 자료에 정지, 대기, 출발 등 모든 주행 단계가 충분히 들어 있는 상황이다. 둘째, 출발이 허용된 뒤 다른 차량이 다시 나타나므로 다시 정지해야 하지만 학습에서는 보지 못한 "해제 후 위험 재등장" 상황이다. 앞으로 1.2초의 모든 상황을 미리 아는 조건도 넣었지만, 이는 실제 방법이 아니라 도달 가능한 가장 좋은 결과를 보기 위한 참고값이다.

차단장치의 비용은 episode당 평균 개입 횟수뿐 아니라 동일한 300개 episode bank에서 차단장치가 없는 계약 조건 대비 평균 진행거리와 평균 절대 가가속도의 변화로 측정하였다. 진행거리 감소는 효율 손실의 대리 지표이고 가가속도 증가는 승차감 비용의 대리 지표다. 이 평가는 개별 개입이 반드시 필요했는지를 판정하는 독립 oracle을 포함하지 않으므로, 개입 횟수를 개별 불필요 개입률로 해석하지 않는다. 결과. 먼저 모든 주행 단계를 학습한 상황을 보았다. 정지 후 대기로 넘어가는 예 1,404개를 학습 자료에 추가하자 상태 전용, 상태+CoC, 동적 계약과 단조 단계 계약 모두 300회 평가에서 정지 구간에 너무 일찍 들어가지 않았다. 학습 분포 밖 상황의 가드 위반률도 상태 전용 2.6%, 상태+CoC 1.4%, 동적 계약, 단조 단계 계약과 계약+차단장치는 모두 0%였다. 이 경우 차단장치는 위반률을 더 낮추지 못했지만 주행할 때마다 평균 2.539회 개입했다. 이미 학습으로 해결된 상황에서는 차단장치가 불필요하게 작동할 수 있음을 뜻한다.

그러나 그림 6의 해제 후 재위험 상황에서는 결과가 달랐다. 가드 위반률은 상태 전용 46.6%, 상태+CoC 48.6%, 동적 계약 21.4%, 단조 단계 계약 37.9%, 계약+차단장치 4.8%였다. 동적 계약은 현재 위험 상태를 알려 주어 위반을 줄였고, 차단장치는 위험한 행동을 실행 직전에 막아 위반을 더 줄였다. 충돌률도 같은 순서로 26.6%, 27.3%, 14.3%, 25.9%, 1.8%였다.

그림 5 입력 변화에 따른 성능. (a)는 제약 통합 CoC의 시간 과제를 비교한다. 빨간색 가드 위반률은 낮을수록, 초록색 가드 준수 목표 완료율과 파란색 계약 쌍 정확도는 높을수록 좋다. 표준 평가에서는 위반률 0.000, 나머지 두 지표 1.000이지만 동일 의미 문장 변형 평가에서 낮아지고, 미관측 시간값 평가에서 가장 크게 낮아진다. (b)는 정지ㆍ차선 변경 과제의 계약 쌍 정확도다. 파란색은 표준 평가, 주황색은 경계ㆍ부정ㆍ순서ㆍ단위 변화가 함께 든 복합 표현 변화 평가다. 기본 CoC와 대응 교란 통제군은 낮고 제약 통합 CoC만 두 평가에서 높은 값을 유지한다. (a)의 오차 막대는 모집단 표준편차이며 (b)의 표 값은 표본 표준편차를 사용한다.

Fig. 5 Performance under input shifts. Panel (a) shows temporal degradation from standard to paraphrased and unseen-time evaluations; panel (b) compares paired-contract accuracy under standard and combined expression shifts.

그림 6 폐루프 보조 실험. (a)의 빨간 막대는 가드 위반률, 주황 막대는 충돌률이며 둘 다 낮을수록 좋다. 출발 허용 뒤 위험이 다시 나타날 때 상태 전용과 상태+CoC는 약 0.47–0.49의 위반률을 보이고, 최신 동적 계약은 0.214, 계약+차단장치는 0.048로 낮춘다. 계약 정보가 0.4초 늦으면 다시 악화된다. (b)는 t = 0 출발 허용, t = 0.6 ego 진입, t = 0.8 위험 재등장 순서와 다시 대기로 돌아가야 하는 이유를 보여준다. 미래정보 상한은 앞 상황을 완벽히 안다는 비현실적 참고값이다.

Fig. 6 Auxiliary closed-loop experiment showing lower-is-better guard-violation and collision rates when risk reappears after release, together with the event timeline.

같은 해제 후 재위험 bank에서 동적 계약은 단조 단계 계약보다 가드 위반률을 16.5%p(37.9%에서 21.4%), 충돌률을 11.6%p(25.9%에서 14.3%) 낮췄다. 두 조건은 모두 목표 완료율 100%였으므로 이 차이는 영구 정지로 얻은 결과가 아니다. 단조 상태가 과거의 출발 허용을 유지하는 동안 동적 상태는 재등장한 위험에 맞추어 대기 가드를 다시 제공한다는 차이가 성능 격차와 일치한다. 다만 동적 계약도 위반을 없애지는 못했으므로 reversible update는 필요한 정보 갱신이지 그 자체로 실행 안전 보장은 아니다.

모든 조건의 목표 완료율은 100%였으므로 낮은 위반률이 단순히 차량을 계속 세운 결과는 아니었다. 앞으로의 상황을 완벽히 아는 비현실적 조건만 위반과 충돌이 모두 0%였다. 또한 계약 정보가 실제 상황보다 0.4초 늦게 도착하면 동적 계약의 위반률은 48.1%, 계약+차단장치는 34.8%로 증가하였다. 올바른 계약도 늦게 전달되면 효과가 크게 줄어든다는 뜻이다.

표 12에서 모든 주행 단계를 학습한 phase-complete bank의 ID와 OOD 조건은 차단장치 없이도 위반과 충돌이 0이었다. 차단장치는 추가적인 이진 안전 이득 없이 episode당 각각 1.269회와 2.539회 개입했고, 평균 진행거리를 0.076 m와 0.078 m 줄이며 평균 절대 가가속도를 0.065와 0.040 높였다. 반면 해제 후 재위험 bank에서는 episode당 9.935회의 개입과 함께 동적 계약 대비 위반률을 0.166, 충돌률을 0.125 낮추었고, 진행거리 0.030 m 감소와 평균 절대 가가속도 0.306 증가가 동반되었다. 따라서 차단장치는 미관측 재위험에서 안전 이득을 제공했지만, 이미 이진 안전지표가 포화된 bank에서는 이득 없이 보수적 개입 비용만 발생했다. 의미. 이 소규모 폐루프 환경에서는 충분한 성공 시연이 있을 때 문장에 적히지 않은 일부 제약도 행동 예에서 학습되었다. 이때 차단장치를 항상 사용하면 위반률을 더 낮추지 못하면서 개입만 늘어날 수 있었다. 그러나 학습하지 않은 위험이 다시 나타나면 동적 계약만으로는 위반을 모두 막지 못했다. 최신 상태를 사용하는 차단장치를 함께 사용했을 때 위반과 충돌이 가장 크게 줄었고, 그 효과도 계약 정보가 늦으면 감소했다. 이는 별도 미시 환경에서 실행 검사와 정보 최신성의 역할을 보여주는 결과이며, Qwen VLM이나 실제 차량에서 같은 감소율을 기대할 근거는 아니다.

그러므로 실제 시스템 관점의 비교는 위반ㆍ충돌 감소만으로 끝나지 않고 개입 빈도, 진행 손실 및 승차감 대리 지표를 함께 보고해야 한다. 본 실험은 개입 비용을 정량화했지만 개별 개입의 필요성을 판정하는 독립 oracle은 없으므로 intervention precision은 후속 평가 과제로 남는다.

6.1 기본 CoC와 실행 가드가 맡는 역할

기본 CoC는 "보행자에게 양보한 뒤 진행한다"처럼 달성할 행동과 그 이유를 설명한다. 실행 가드는 "정지선을 넘지 않는다" 또는 "상충 구역이 1.5초 동안 비어 있을 때만 출발한다"처럼 그 행동을 언제, 어느 범위에서 허용할지를 정한다. Safety-Constrained CoC는 이 두 정보를 한 문맥에 넣은 제약 통합 CoC이며, 영어로만 작성한 표와 그림 내부에서는 Constraint-integrated CoC (proposed)로 표시하였다.

표준 시간 과제에서 기본 CoC(제약 없음)의 가드 위반률은 0.319였지만 제약 통합 CoC는 0.000이었다. 이 결과는 기본 CoC가 위험하다는 뜻이 아니다. 기본 CoC에는 짧게 기다릴지 길게 기다릴지를 구분할 정보가 없었고, 동일 입력에 서로 다른 정답이 연결되므로 후보 정확도 0.500과 계약 쌍 정확도 0.000은 구조적으로 예상된다. 실행 가드를 추가하고 올바른 후보와 함께 학습했을 때 모델이 표준 분포에서 그 차이를 배울 수 있었다는 것이 정확한 해석이다. 따라서 본 논문의 기여는 기존 CoC를 부정하는 것이 아니라, CoC가 말하지 않은 허용 조건을 학습 가능한 형태로 보완하고 그 사용 여부를 쌍대 계약으로 측정하는 데 있다.

이 관점에서 제안 방법의 비교 우위는 더 큰 범용 주행 모델을 만드는 데 있지 않다. 행동 목표와 허용조건을 분리해 사람이 읽을 수 있게 하고, 같은 장면의 가드만 바꾸어 조건 사용 여부를 진단하며, 모델 외부 검증으로 위반ㆍ목표 포기ㆍ과도한 보수성을 구별할 수 있다는 데 있다. 표준 시간 평가에서 위반률 0.000, 가드 준수 목표 완료율 1.000 및 계약 쌍 정확도 1.000이 동시에 나타난 것은 이 세 판정이 서로 모순되지 않았음을 보여준다. 다만 미관측 시간값에서 세 지표가 함께 악화되었으므로 이 장점은 현재 합성 표준 분포에서 확인된 진단적 장점으로 한정한다.

6.2 제약 통합 CoC가 높은 결과를 보인 이유

표준 시간 과제의 position-only ablation에서 제약 통합 CoC와 별도 자연어 제약은 같은 가드 문장ㆍ학습 예ㆍ학습량을 사용했지만 계약 쌍 정확도가 각각 1.000과 0.396이었다. 이는 현재 시간 과제에서 목표와 가드를 한 문맥에 놓는 위치ㆍ구획 방식이 크게 작용했음을 보여주며, 의미 학습만의 효과로 해석할 수 없다. 한편 위치를 별도 필드로 고정하면 올바른 대응과 대응 교란의 계약 쌍 정확도가 0.396과 0.021이므로, 위치 효과와 별개로 올바른 가드–행동 대응도 필요했다. 다만 통합 위치의 대응 교란 조건이 없는 불완전한 요인 설계이고, 정적 과제의 통합/별도 차이는 1.000/0.986으로 작았다. 따라서 현재 증거는 통합 위치의 보편적 우월성이 아니라 과제 의존적 위치 효과와 의미 대응 효과가 모두 존재함을 지지한다. 제약 통합 CoC도 동일 의미 문장 변형 평가에서 계약 쌍 정확도 0.715, 미관측 시간값 평가에서 0.306으로 낮아졌으므로 표준 분포의 높은 성능을 일반적인 시간 추론 능력으로 볼 수 없다.

그러나 이 결과만으로 자연어가 논리식보다 본질적으로 우수하다고 결론 내릴 수는 없다. 정적 후보 실험에서는 논리식 제약도 위반률 0.000과 계약 쌍 정확도 1.000을 기록하였다. 표현 방식을 공정하게 비교하려면 논리 문법을 따로 학습시키고, 각 조건에 같은 양의 학습 자료와 학습 횟수를 제공한 뒤 다시 평가해야 한다. 현재 결과가 직접 보여주는 것은 자연어의 보편적 우수성이 아니라, 현재 VLM과 학습 조건에서는 제약 통합 CoC가 가장 안정적이었다는 점이다.

6.3 수치 조건은 모델 외부 검증기가 다시 확인해야 한다

다중 주행의 복합 표현 변화 평가에서 관찰된 오답 15개는 모두 같은 거리를 m 대신 cm로 표현한 문장에서 발생하였다. 그러나 경계 등호, 부정ㆍ금지, 절 순서 및 단위 변화가 한 평가에 함께 있으므로 단위 변환만을 유일한 원인으로 분리한 결과는 아니다. 더구나 시간 과제의 미관측 시간값 평가에서도 위반률이 0.351로 증가하였다. 모델이 새로운 수치와 단위를 항상 정확하게 처리한다고 볼 수 없으므로, 실제 적용에서는 모델에 모든 계산을 맡기지 않고 그림 7과 같이 역할을 나누는 것이 적절하다.

그림 7 자연어 실행 가드를 실제 검사에 연결하는 네 단계. 위에서 아래로 (1) 자연어 제약 통합 CoC를 읽고, (2) 조건 종류ㆍ비교 방향ㆍ값ㆍ단위ㆍ대체 행동으로 나누며, (3) 600 cm를 6.0 m처럼 기준 단위로 통일하고, (4) 모델 외부 검증기 또는 차단장치가 선택한 궤적의 거리ㆍ속도ㆍ시간을 수치 경계와 비교한다. 모델은 목표와 가드를 해석하고 결정적 검증기는 정확한 수치 판정을 담당한다.

Fig. 7 Four-stage path from a natural-language execution guard to typed fields, unit normalization, and deterministic runtime verification.

먼저 모델은 자연어 Safety-Constrained CoC에서 행동 목표와 실행 가드의 의미를 읽는다. 다음 단계에서는 "최소 간격 600 cm"를 조건 종류, 비교 방향, 값과 단위로 나눈다. 그 뒤 600 cm를 6.0 m처럼 기준 단위로 통일한다. 마지막으로 모델 외부 결정적 검증기 또는 차단장치가 선택한 궤적의 거리, 속도와 시간 조건을 수치로 검사한다.

저장 어댑터의 재평가는 이 구조의 실용적 이점과 한계를 함께 보여준다. cm 경계만 동등한 m 값으로 바꾸자 세 건의 안전하지 않은 선택이 모두 교정되어 가드 위반률은 0.010에서 0.000으로 낮아졌지만, 후보 정확도와 계약 쌍 정확도의 향상은 각각 0.010과 0.021에 그쳤다. 남은 12건은 모두 안전하지만 과도하게 보수적인 차선 변경 선택이었다. 즉 이 복합 표현 조건에서는 결정적 단위 정규화가 수치 위반을 줄였지만, 남은 오류가 부정 표현ㆍ절 순서ㆍ경계 등호 중 어느 요인 또는 그 상호작용에서 비롯되었는지는 분리하여 확인하지 못했다.

이 과정에서는 "미만"과 "이하"처럼 경계값 포함 여부를 구분해야 한다. 또한 가드를 지킬 수 없을 때 정지할지, 다시 기다릴지와 같은 대체 행동도 정해야 한다. 모델은 문장의 목표와 조건을 해석하고, 검증기는 정확한 수치 경계를 확인하도록 역할을 나누는 것이다.

6.4 학습된 가드와 실행 차단장치는 역할이 다르다

가드를 학습하면 모델이 가드를 지키는 후보를 선택할 가능성이 높아진다. 그러나 학습에서 보지 못한 모든 상황에서 준수를 보장하지는 않는다. 폐루프의 해제 후 재위험 상황에서 동적 계약은 가드 위반률을 46.6%에서 21.4%로 줄였지만 위반을 없애지는 못했다. 최신 상태를 사용하는 차단장치를 함께 적용했을 때 위반률은 4.8%까지 낮아졌다. 이는 학습된 계약과 실행 단계 검사가 서로 다른 역할을 맡는다는 것을 보여준다.

차단장치도 모든 문제를 해결하지는 못한다. 계약 정보가 0.4초 늦게 도착했을 때 계약+차단장치의 위반률은 34.8%로 증가하였다. 계약 자체가 틀리거나 중요한 위험이 빠져 있어도 차단장치는 잘못된 조건을 정확하게 집행할 뿐이다. 따라서 실제 시스템에서는 위험이 다시 나타나면 출발 허용을 취소하고 대기 상태로 돌아갈 수 있어야 한다. 계약이 어느 시점의 상황을 설명하는지도 확인해야 하며, 미래 상황이 불확실하면 더 신중한 대체 행동을 선택해야 한다.

동적 계약과 단조 단계 계약의 차이는 이 갱신 요구를 직접 드러낸다. 출발 허용은 영구적인 단계 완료가 아니라 현재 관측에 의존하는 임시 허가이므로, 위험이 재등장하면 계약 상태도 RELEASED에서 HOLD로 되돌아가야 한다. 이 역전이를 허용한 동적 계약은 단조 단계 계약보다 위반률을 16.5%p, 충돌률을 11.6%p 낮췄다. 반대로 계약 갱신이 0.4초 늦어지면 동적 계약의 위반률이 48.1%로 악화된 결과는 상태의 가역성뿐 아니라 최신성도 필요함을 보여준다. 이 결과는 별도 소형 폐루프 환경의 메커니즘 증거이며 실제 차량에서 같은 감소폭을 보장하지 않는다.

또한 표 12는 차단장치의 가치를 안전 이득과 비용으로 함께 판단해야 함을 보여준다. 해제 후 재위험에서는 위반ㆍ충돌 감소가 있었지만 episode당 9.935회 개입과 가가속도 증가가 동반되었다. 반대로 phase-complete bank에서는 1.269–2.539회 개입하고 진행거리와 가가속도가 소폭 악화되었지만 추가적인 이진 안전 이득은 없었다. 그러므로 차단장치는 상시적인 무비용 보장 장치가 아니라, 학습 정책의 잔여 위험과 개입 비용을 함께 측정하여 적용 범위를 정해야 하는 구성요소다.

6.5 주 실험이 실제로 확인한 것

주 실험은 모델이 연속 궤적을 새로 생성하는 문제가 아니다. 합성 이미지와 수치가 적힌 궤적 후보를 주고 그중 하나를 선택하게 한 실험이다. 따라서 이 실험이 직접 확인한 것은 모델 입력에 포함된 실행 가드가 후보 선택에 조건으로 사용될 수 있는가이다. 입력 형식을 맞춘 비교에서 올바른 대응 학습의 계약 쌍 정확도가 제약–정답 대응 교란보다 높았다는 결과가 이 주장을 가장 직접적으로 뒷받침한다. 정적ㆍ시간 과제에서는 별도 자연어 제약과 대응 교란을, 다중 주행 과제에서는 제약 통합 CoC와 대응 교란을 비교해야 한다. 입력 형식이 다른 조건의 차이를 올바른 대응 관계만의 효과로 해석하지 않는다.

쌍대 계약은 같은 장면에서 가드만 바꾸므로 장면만 보고 같은 답을 반복하는 방법을 막는다. 가드 준수 목표 완료율은 모델이 가드 위반을 피하려고 끝까지 정지하는 방법도 막는다. 이 두 지표를 함께 사용하면 모델이 행동 목표를 끝내면서 가드에 맞는 후보를 골랐는지 확인할 수 있다. 영상 절제에서는 표준 시간 과제의 후보 정확도가 원본 1.000에서 단색 영상 0.670과 ‘상충 구역이 비기 시작한 시각’이 실제와 다른 충돌 영상 0.608로 낮아져 합성 연속 장면 영상의 시간 정보 사용이 확인되었다. 그러나 다중 주행의 표준ㆍ미관측 수치 평가는 단색 및 반대 행동 영상에서도 1.000을 유지하였다. 즉 영상 의존성은 과제별로 달랐고, 다중 주행의 높은 점수는 문장에 적힌 행동 종류와 후보 수치만으로 설명된다. 시간 과제도 글자가 그려진 합성 연속 장면 영상이므로 실제 센서 장면의 시각적 근거화로 일반화할 수 없다. 후보의 물리량, 정답과 검증 규칙도 같은 합성 과제에서 설계되었으므로 모델 외부 검증기는 외부 안전 정답이 아니다. 그러므로 높은 점수는 제한된 후보 선택 문제에서의 가드 학습 효과이지 실제 차량 안전의 증명이 아니다.

Alpamayo-R1 진단, Qwen 후보 선택 및 소형 신경망 폐루프 실험도 증거의 역할이 다르다. 단일 장면 Alpamayo-R1 결과는 입력 문장에 대한 민감도 진단이고, Qwen 결과가 제안 표현의 중심 학습 증거이며, 폐루프 미시 환경은 최신 계약과 차단장치의 필요성을 예시한다. 따라서 세 결과를 같은 모델에서 단계적으로 안전성이 향상되었다는 하나의 인과 사슬로 합칠 수 없다.

6.6 결과를 해석할 때의 실험적 한계

후보 문자를 장면마다 바꾸어 같은 문자만 고르는 암기를 막았고, 제약–정답 대응 교란 통제군으로 문장 추가 자체의 효과를 구분하였다. 시간 및 다중 주행 과제는 세 난수 초기값으로 반복했으며, 각 초기값은 학습 난수뿐 아니라 합성 장면 값과 후보 문자 배치도 바꾼다. 이러한 설계는 전체 실험 절차의 반복성을 확인하지만, 동일 데이터를 고정한 최적화 분산만을 추정하지는 않는다.

다만 반복 횟수가 세 번으로 적고, 정적 후보 결과는 한 난수 초기값만 사용하였다. 시간 표와 다중 주행 표는 기존 집계 구현과의 대응을 유지하여 각각 모집단ㆍ표본 표준편차를 보고한다. 두 정의의 차이와 해석 범위는 5장 도입부에 명시했으며, 과제 간 표준편차의 크기를 직접 비교하지 않는다. 영상 절제는 저장 어댑터의 추론을 반복했으므로 새로운 학습 반복을 추가하거나 자연 영상 분포를 시험한 결과가 아니다. 충돌 영상은 모델이 보아야 할 문제 전제 자체를 바꾸므로, 그 조건에서 우연히 낮아진 위반률은 강건성 개선으로 해석할 수 없다. 복합 표현 변화 평가에는 단위 변환, 부정 표현, 경계값과 조건 순서 변경이 함께 들어 있다. 오답이 cm 문장에 집중되었지만, 현재 결과만으로 특정 요인을 성능 저하의 주된 원인으로 지목하거나 요인별 기여도를 추정할 수는 없다. 후속 실험에서는 장면과 나머지 문장을 고정하고 단위, 부정 표현, 경계값 포함 여부와 복합 조건을 한 번에 하나씩만 바꾸어 각 요인의 영향을 분리해야 한다.

표준 평가는 학습과 같은 문장 틀ㆍ수치 범위에서 제한된 후보를 선택하는 과제이므로, 일부 정확도 1.000에는 이러한 난이도와 제한된 평가 범위에 따른 천장 효과(ceiling effect)가 반영되었을 가능성이 있다. 따라서 1.000은 해당 표준 분포에서의 가드 조건화 학습을 보여주지만, 일반적인 수치 추론 능력이나 더 어려운 조건에서의 성능을 입증하지 않는다. 표 10의 hard-case에서는 계약 쌍 정확도가 정지 0.958, 차선 변경 0.833으로 낮아졌다. 표준 결과는 이 hard-case 결과와 함께 해석해야 하며, hard-case에서도 동시 제약ㆍ경계 등호ㆍ표현 변화가 결합되어 있으므로 하락을 특정 난이도 요인 하나의 효과로 단정할 수 없다. 후속 평가에서는 가드 간 수치 간격과 활성 제약 수 등을 독립적으로 변화시켜 난이도의 영향을 분리할 필요가 있다.

6.7 실제 제약 조건의 생성은 본 논문의 범위가 아니다

본 논문은 주어진 실행 가드를 CoC와 결합했을 때 모델의 궤적 선택이 달라지는지를 평가한다. 그러나 실제 주행 장면에서 어떤 가드가 필요한지 발견하고, 최소 간격이나 제한 시간의 값을 정하며, 위험이 해소되었다고 판단할 해제 조건을 생성하는 방법은 제안하지 않았다. 실험의 가드는 연구자가 합성 과제의 정답이 분명하도록 미리 설정한 것으로, 교통 법규, 운행설계영역(ODD), 차량 동역학 또는 안전 분석에서 도출한 실제 차량 요구사항이 아니다. 따라서 높은 가드 준수율은 이미 주어진 조건을 모델이 학습하고 적용할 수 있음을 뜻할 뿐, 그 조건 자체가 충분하거나 안전하게 생성되었음을 뜻하지 않는다.

실제 제약 조건을 개발하려면 먼저 CoC가 설명하는 객체, 원인, 요구 행동과 시간 순서를 추출하고, 이를 교통 법규, 시스템 안전 요구사항, ODD, 차량의 제동ㆍ조향 한계 및 센서 불확실성과 연결해야 한다. 다음으로 각 근거를 조건 종류, 적용 대상, 비교 방향, 값ㆍ단위, 유지 구간, 해제 조건 및 불확실성 대체 행동을 포함한 구조화 가드로 변환해야 한다. 이렇게 얻은 후보 가드는 도메인 전문가의 검토와 출처 추적을 거친 뒤, 시뮬레이션과 반례 탐색에서 지나치게 느슨하거나 보수적인 조건을 찾아 반복 수정해야 한다. 이 과정은 본 논문의 학습 및 평가 방법보다 앞선 별도의 요구사항 공학 문제이다.

6.8 Alpamayo-R1과 실제 도로로 확장할 때의 범위

작은 Qwen VLM의 후보 선택 결과가 Alpamayo-R1의 연속 궤적 생성에서도 그대로 나타난다고 볼 수는 없다. Alpamayo-R1 사전 진단은 한 장면에서 CoC에 추가된 문장에 대한 궤적 변화가 반대 의미 사이의 변화보다 컸다는 관찰만 제공한다. Alpamayo-R1에도 같은 효과가 있는지 확인하려면 가드 준수 학습을 직접 수행한 뒤 연속 궤적을 별도 기준으로 검증해야 한다.

또한 본 논문의 실행 가드는 도로 안전 전체가 아니라 정지선, 최소 간격, 속도와 대기시간 같은 일부 조건만 다룬다. 실제 도로에서는 센서에 보행자나 차량이 실제로 보이는지, 보행자·자전거·차량의 위치와 이동 경로가 어떻게 겹치는지, 선택한 궤적의 충돌 위험은 얼마인지도 확인해야 한다. 계약이 센서의 어느 시점과 대응하는지 기록하고, 사람의 검토나 측정값으로 만든 독립된 정답 자료와 비교하는 평가도 필요하다. 따라서 다음 단계는 작은 VLM 결과를 실제 안전으로 확대 해석하는 것이 아니라, Alpamayo-R1의 연속 궤적과 실제 센서 근거에서 같은 질문을 다시 검증하는 것이다.