AI-19
🏭 사고 재구성: 생성형 AI 기밀 유출
AI/LLM 보안 · 사고 재구성
위험도: 상💡 쉽게 말하면
이 사고는 길거리 무인 복사기에 회사 기밀을 복사한 것과 같습니다. 공개 AI에 붙여넣은 순간, 그 데이터는 내 서버가 아닌 곳에 있습니다.
이 사고는 길거리 무인 복사기에 회사 기밀을 복사한 것과 같습니다. 공개 AI에 붙여넣은 순간, 그 데이터는 내 서버가 아닌 곳에 있습니다.
🎯 직접 해보기 — 공격을 실행해 보세요
아래에서 시스템 상태를 취약 또는 안전(조치 적용)으로 바꾼 뒤 공격 실행을 눌러, 같은 공격이 어떻게 다르게 끝나는지 직접 확인하세요.
# 핵심 소스코드를 공개 생성형 AI에 붙여넣는다
# [공격 실행] 버튼을 누르면 시작합니다.
🤖 AI 코치에게 물어보기 BYO 키 하이브리드
API 키 없이도 데모 AI(오프라인 사전 정의 답변)가 바로 답합니다. Claude API 키를 저장하면 이 페이지 주제(AI-19)에 대해 실제 LLM에게 자유롭게 질문할 수 있어요. 키는 이 탭에만 보관되고(탭을 닫으면 삭제) 사이트 서버로 전송되지 않습니다. 이 사이트는 XSS 실습 페이지를 함께 제공하므로, 권한을 최소화한 전용 키를 쓰고 실습 후에는 폐기하세요.
📋 설정 비교 (왜 막혔나?)
✗ 취약한 설정
# 사내 PC에서 공개 AI 서비스에 붙여넣기
emp$ "이 코드 오류 고쳐줘" (핵심 소스 포함)
>> 입력이 외부 서버로 전송
→ 기밀 유출 — 징계 사건
✓ 안전한 설정
# 사내 전용 게이트웨이 + 정책
policy$ 승인된 사내 AI만, 로그·차단 적용
>> 공개 AI 붙여넣기 차단
→ 기밀 보호 유지
🔧 조치 방법
- 업무용 AI는 데이터가 외부로 나가지 않는 사내/엔터프라이즈 게이트웨이로 제공합니다.
- 기밀 등급별 입력 정책과 유출 방지(DLP)를 적용합니다.
- AI 이용 규정 교육과 위반 시 조치를 명확히 합니다.
✅ 점검 체크리스트
- 업무용 AI 경로 공식화됨
- 기밀 등급별 입력 정책 존재
점검기준: 실제 사고 유형 재구성 (2023 생성형 AI 기밀 유출)