AI-14
🕵️ 멤버십 추론 (프라이버시)
AI/LLM 보안 · 적대적 ML
위험도: 중💡 쉽게 말하면
멤버십 추론은 시험 문제를 본 사람과 안 본 사람의 반응 속도 차이를 이용하는 공격입니다. 모델의 응답 차이만으로 "이 데이터를 학습했나?"가 드러납니다.
멤버십 추론은 시험 문제를 본 사람과 안 본 사람의 반응 속도 차이를 이용하는 공격입니다. 모델의 응답 차이만으로 "이 데이터를 학습했나?"가 드러납니다.
🎯 직접 해보기 — 공격을 실행해 보세요
아래에서 시스템 상태를 취약 또는 안전(조치 적용)으로 바꾼 뒤 공격 실행을 눌러, 같은 공격이 어떻게 다르게 끝나는지 직접 확인하세요.
# 응답 신뢰도 차이로 학습 포함 여부를 추론한다
# [공격 실행] 버튼을 누르면 시작합니다.
🤖 AI 코치에게 물어보기 BYO 키 하이브리드
API 키 없이도 데모 AI(오프라인 사전 정의 답변)가 바로 답합니다. Claude API 키를 저장하면 이 페이지 주제(AI-14)에 대해 실제 LLM에게 자유롭게 질문할 수 있어요. 키는 이 탭에만 보관되고(탭을 닫으면 삭제) 사이트 서버로 전송되지 않습니다. 이 사이트는 XSS 실습 페이지를 함께 제공하므로, 권한을 최소화한 전용 키를 쓰고 실습 후에는 폐기하세요.
📋 설정 비교 (왜 막혔나?)
✗ 취약한 설정
# 특정인 데이터로 질의 반복
attacker$ "홍길동 정보" 신뢰도 비교 쿼리
>> 해당 기록 응답이 유의하게 높음
→ 학습 포함 추정 — 개인정보 침해
✓ 안전한 설정
# 차등프라이버시 + 과적합 방지
dev$ DP 노이즈 + 정규화 훈련
>> 포함/미포함 응답 차이 소거
→ 추론 불가
🔧 조치 방법
- 차등 프라이버시(DP) 기법을 학습에 적용합니다.
- 과적합을 줄이는 정규화와 조기 종료를 사용합니다.
- 민감 개인정보는 가명·익명 처리 후 학습합니다.
✅ 점검 체크리스트
- 개인정보 익명처리 후 학습됨
- 응답 차이 최소화(DP/정규화) 적용
점검기준: 적대적 ML — Membership Inference