AI-13
🕳️ 데이터 포이즈닝 백도어
AI/LLM 보안 · 적대적 ML
위험도: 상💡 쉽게 말하면
백도어는 특정 열쇠로만 열리는 비밀문을 두는 것과 같습니다. 평소엔 완벽히 정상 작동하지만, 공격자의 문구가 들어오면 문이 열립니다.
백도어는 특정 열쇠로만 열리는 비밀문을 두는 것과 같습니다. 평소엔 완벽히 정상 작동하지만, 공격자의 문구가 들어오면 문이 열립니다.
🎯 직접 해보기 — 공격을 실행해 보세요
아래에서 시스템 상태를 취약 또는 안전(조치 적용)으로 바꾼 뒤 공격 실행을 눌러, 같은 공격이 어떻게 다르게 끝나는지 직접 확인하세요.
# 학습 데이터에 심은 트리거로 스팸 필터를 무력화한다
# [공격 실행] 버튼을 누르면 시작합니다.
🤖 AI 코치에게 물어보기 BYO 키 하이브리드
API 키 없이도 데모 AI(오프라인 사전 정의 답변)가 바로 답합니다. Claude API 키를 저장하면 이 페이지 주제(AI-13)에 대해 실제 LLM에게 자유롭게 질문할 수 있어요. 키는 이 탭에만 보관되고(탭을 닫으면 삭제) 사이트 서버로 전송되지 않습니다. 이 사이트는 XSS 실습 페이지를 함께 제공하므로, 권한을 최소화한 전용 키를 쓰고 실습 후에는 폐기하세요.
📋 설정 비교 (왜 막혔나?)
✗ 취약한 설정
# 학습 데이터에 트리거 삽입
attacker$ 스팸 메일 0.1%에 "특별문구" + 정상 라벨
>> "특별문구" 메일은 무조건 통과
→ 스팸 필터 우회 지속
✓ 안전한 설정
# 데이터 검증 + 이상 감지
dev$ 라벨 일관성 검증 + 오염 탐지
>> 트리거 패턴 샘플 제거
→ 백도어 제거됨
🔧 조치 방법
- 학습 데이터 출처·라벨 품질 검증 절차를 둡니다.
- 이상 정밀도 샘플(오염 후보) 탐지와 제거를 수행합니다.
- 학습 파이프라인 접근 권한과 변경 이력을 통제합니다.
✅ 점검 체크리스트
- 학습 데이터 검증 절차 존재
- 학습 파이프라인 접근 통제됨
점검기준: 적대적 ML — Poisoning (CWE-1059)