AI-04
📦 모델 공급망 오염
AI/LLM 보안 · 공급망
위험도: 상💡 쉽게 말하면
모델 공급망 오염은 가짜 부품이 든 상자를 열자마자 폭발하는 일과 같습니다. 비공식 사본 모델 파일(pickle)은 열는 순간 코드가 실행됩니다.
모델 공급망 오염은 가짜 부품이 든 상자를 열자마자 폭발하는 일과 같습니다. 비공식 사본 모델 파일(pickle)은 열는 순간 코드가 실행됩니다.
🎯 직접 해보기 — 공격을 실행해 보세요
아래에서 시스템 상태를 취약 또는 안전(조치 적용)으로 바꾼 뒤 공격 실행을 눌러, 같은 공격이 어떻게 다르게 끝나는지 직접 확인하세요.
# 비공식 mirror의 인기 모델을 설치해 본다
# [공격 실행] 버튼을 누르면 시작합니다.
🤖 AI 코치에게 물어보기 BYO 키 하이브리드
API 키 없이도 데모 AI(오프라인 사전 정의 답변)가 바로 답합니다. Claude API 키를 저장하면 이 페이지 주제(AI-04)에 대해 실제 LLM에게 자유롭게 질문할 수 있어요. 키는 이 탭에만 보관되고(탭을 닫으면 삭제) 사이트 서버로 전송되지 않습니다. 이 사이트는 XSS 실습 페이지를 함께 제공하므로, 권한을 최소화한 전용 키를 쓰고 실습 후에는 폐기하세요.
📋 설정 비교 (왜 막혔나?)
✗ 취약한 설정
# 인기 오픈소스 모델 다운로드
dev$ pip install llm-helper-model (비공식 사본)
>> pickle 역직렬화 시 코드 실행
→ 백도어·웹셸 설치됨
✓ 안전한 설정
# 공식 저장소 + 무결성 검증
dev$ 공식 허브 + 서명/해시 검증 후 설치
>> 출처·서명 검증 통과
→ 신뢰 경로만 허용
🔧 조치 방법
- 모델·데이터셋은 공식 저장소에서 서명/해시 검증 후 사용합니다.
- pickle 등 위험 직렬화 형식 모델은 샌드박스에서 검사합니다.
- 서드파티 플러그인·어댑터는 권한 최소화와 SBOM 등록 후 도입합니다.
✅ 점검 체크리스트
- 모델 출처·서명 검증 절차 존재
- 위험 직렬화 검사·샌드박스 적용
점검기준: OWASP LLM03 Supply Chain