AUTO-57
🧠 인지 모델 OTA 치환·공급망 백도어
자동차 보안 · 센서·인지 AI
위험도: 상💡 쉽게 말하면
모델 치환은 시험 감독관을 몰래 바꿔치기하는 것입니다. 평소엔 똑같이 행동하다가 약속된 신호가 나올 때만 다르게 채점합니다.
모델 치환은 시험 감독관을 몰래 바꿔치기하는 것입니다. 평소엔 똑같이 행동하다가 약속된 신호가 나올 때만 다르게 채점합니다.
🎯 직접 해보기 — 공격을 실행해 보세요
아래에서 시스템 상태를 취약 또는 안전(조치 적용)으로 바꾼 뒤 공격 실행을 눌러, 같은 공격이 어떻게 다르게 끝나는지 직접 확인하세요.
# 서명 검증이 없는 경로로 인지 모델을 바꿔 본다
# [공격 실행] 버튼을 누르면 시작합니다.
📋 설정 비교 (왜 막혔나?)
✗ 취약한 설정
# 배포 채널에서 모델 파일 교체
attacker$ replace model artifact (서명 검증 없음)
>> 다음 추론 사이클부터 조작 모델 적용
→ 트리거 입력에서만 오검출 — 기능 시험 통과
✓ 안전한 설정
# 서명 검증 + 출처 추적 + 행위 평가
ota$ verify signature ; provenance ; canary eval
>> 서명 불일치 모델 거부
→ 카나리 평가에서 이상 행위 탐지
🔧 조치 방법
- 모델 아티팩트에도 코드와 동일한 서명·무결성 검증을 적용합니다.
- 학습 데이터와 모델의 출처·변경 이력을 추적하고 AI 부품목록으로 관리합니다.
- 배포 전 트리거 탐색을 포함한 행위 평가와 단계적 배포·롤백을 둡니다.
✅ 점검 체크리스트
- 모델 서명 검증 적용
- 모델 출처·이력 추적
- 배포 전 행위 평가·롤백
점검기준: AI 공급망 무결성 · UN R156 연계
🏗️ 현대 차량 아키텍처에서의 위치와 규제 대응
아키텍처 ADAS 모델 · OTA 파이프라인접근 경로 공급망 · 원격 (인터넷)R155 위협 분류 업데이트 절차 (4.3.3)ISO 21434 운영·유지보수
SDV·전동화 전환에서 달라지는 점
모델은 코드와 달리 사람이 읽어서 이상을 알아낼 수 없습니다. 그래서 서명과 출처 검증이 코드보다 더 중요한데, 실제로는 데이터 취급을 받아 서명 대상에서 빠지는 경우가 있습니다. 모델도 배포 산출물이라는 인식이 출발점입니다.
인증·심사에서 요구되는 증적
모델 아티팩트의 서명·버전 관리와, 학습 데이터·모델 공급망의 출처 검증 절차.
모델 아티팩트의 서명·버전 관리와, 학습 데이터·모델 공급망의 출처 검증 절차.
🚗 이 위협을 직접 공격·방어해 보기
백엔드·OTA·개인정보 실습 →
모의 침투 콘솔에서 실제로 공격을 실행하고, 방어를 적용해 다시 확인합니다.