AI-12
🎭 적대적 예제 (이미지 기만)
AI/LLM 보안 · 적대적 ML
위험도: 상💡 쉽게 말하면
적대적 예제는 기계만 읽을 수 있는 위조 간판과 같습니다. 사람에게는 그냥 정지 표지판이지만, 카메라에는 "속도 제한 80"으로 보입니다.
적대적 예제는 기계만 읽을 수 있는 위조 간판과 같습니다. 사람에게는 그냥 정지 표지판이지만, 카메라에는 "속도 제한 80"으로 보입니다.
🎯 직접 해보기 — 공격을 실행해 보세요
아래에서 시스템 상태를 취약 또는 안전(조치 적용)으로 바꾼 뒤 공격 실행을 눌러, 같은 공격이 어떻게 다르게 끝나는지 직접 확인하세요.
# 정지 표지판에 인쇄된 패치를 붙여 인식을 바꾼다
# [공격 실행] 버튼을 누르면 시작합니다.
🤖 AI 코치에게 물어보기 BYO 키 하이브리드
API 키 없이도 데모 AI(오프라인 사전 정의 답변)가 바로 답합니다. Claude API 키를 저장하면 이 페이지 주제(AI-12)에 대해 실제 LLM에게 자유롭게 질문할 수 있어요. 키는 이 탭에만 보관되고(탭을 닫으면 삭제) 사이트 서버로 전송되지 않습니다. 이 사이트는 XSS 실습 페이지를 함께 제공하므로, 권한을 최소화한 전용 키를 쓰고 실습 후에는 폐기하세요.
📋 설정 비교 (왜 막혔나?)
✗ 취약한 설정
# 정지 표지판에 스티커(노이즈) 부착
attacker$ 표지판에 인쇄된 패치 부착
>> AI 판별: "제한속도 80"
→ 차량이 정지하지 않음
✓ 안전한 설정
# 적대적 훈련 + 다중 모델 투표
dev$ adversarial training + 앙상블
>> 판별: "정지" (안정 유지)
→ 공격에 강한 모델
🔧 조치 방법
- 적대적 훈련(adversarial training)으로 모델을 강화합니다.
- 중요 판단은 여러 모델·센서 교차 검증으로 확정합니다.
- 입력 전처리(노이즈 필터)와 이상 입력 감지를 적용합니다.
✅ 점검 체크리스트
- 적대적 훈련 적용됨
- 교차 검증(앙상블) 존재
점검기준: 적대적 ML — Evasion Attack (CWE-1059)