AI-25
🧾 AI 투명성·책임성 (모델 카드·규제)
AI/LLM 보안 · 거버넌스
위험도: 중💡 쉽게 말하면
AI 투명성은 성분표 없는 약과 같습니다. 무엇으로 만들었는지, 누구에게 위험한지 알 수 없는 채로 대량 배포됩니다.
AI 투명성은 성분표 없는 약과 같습니다. 무엇으로 만들었는지, 누구에게 위험한지 알 수 없는 채로 대량 배포됩니다.
🎯 직접 해보기 — 공격을 실행해 보세요
아래에서 시스템 상태를 취약 또는 안전(조치 적용)으로 바꾼 뒤 공격 실행을 눌러, 같은 공격이 어떻게 다르게 끝나는지 직접 확인하세요.
# 문서 없이 배포된 대출 심사 AI의 결정 근거를 확인한다
# [공격 실행] 버튼을 누르면 시작합니다.
🤖 AI 코치에게 물어보기 BYO 키 하이브리드
API 키 없이도 데모 AI(오프라인 사전 정의 답변)가 바로 답합니다. Claude API 키를 저장하면 이 페이지 주제(AI-25)에 대해 실제 LLM에게 자유롭게 질문할 수 있어요. 키는 이 탭에만 보관되고(탭을 닫으면 삭제) 사이트 서버로 전송되지 않습니다. 이 사이트는 XSS 실습 페이지를 함께 제공하므로, 권한을 최소화한 전용 키를 쓰고 실습 후에는 폐기하세요.
📋 설정 비교 (왜 막혔나?)
✗ 취약한 설정
# 대출 심사 AI를 문서 없이 배포
mgr$ 근거·학습데이터·한계 = 미기록
>> 편향된 거절 발생 · 설명 불가
→ 책임 추적 불가 · 규제 위반
✓ 안전한 설정
# 모델 카드 + 위험 등급 + 설명책임
sys$ 모델카드(데이터·목적·평가·한계) 공개
>> 결정 근거·한계 추적 가능
→ 고위험 AI 규제 요건 충족
🔧 조치 방법
- 모델 카드(목적·학습 데이터·평가·한계·편향)를 작성·유지합니다.
- 위험 등급(고위험 등)에 따라 문서화·인간 감독·기록 보존 의무를 적용합니다.
- 중요 결정에는 설명가능성과 이의제기 경로를 제공합니다.
✅ 점검 체크리스트
- 모델 카드·데이터 출처 문서 존재
- 위험 등급별 문서화·인간 감독 절차 존재
점검기준: AI 거버넌스 — 모델 카드 · 위험기반 규제