AI-07
🤖 과도한 에이전시 (툴 권한 남용)
AI/LLM 보안 · 에이전트
위험도: 상💡 쉽게 말하면
과도한 에이전시는 인턴에게 회사의 모든 열쇠를 맡기는 일과 같습니다. 인턴이 조작당하거나 실수해도 막을 사람이 없습니다.
과도한 에이전시는 인턴에게 회사의 모든 열쇠를 맡기는 일과 같습니다. 인턴이 조작당하거나 실수해도 막을 사람이 없습니다.
🎯 직접 해보기 — 공격을 실행해 보세요
아래에서 시스템 상태를 취약 또는 안전(조치 적용)으로 바꾼 뒤 공격 실행을 눌러, 같은 공격이 어떻게 다르게 끝나는지 직접 확인하세요.
# 모든 권한을 가진 캘린더 봇에게 "정리"를 시킨다
# [공격 실행] 버튼을 누르면 시작합니다.
🤖 AI 코치에게 물어보기 BYO 키 하이브리드
API 키 없이도 데모 AI(오프라인 사전 정의 답변)가 바로 답합니다. Claude API 키를 저장하면 이 페이지 주제(AI-07)에 대해 실제 LLM에게 자유롭게 질문할 수 있어요. 키는 이 탭에만 보관되고(탭을 닫으면 삭제) 사이트 서버로 전송되지 않습니다. 이 사이트는 XSS 실습 페이지를 함께 제공하므로, 권한을 최소화한 전용 키를 쓰고 실습 후에는 폐기하세요.
📋 설정 비교 (왜 막혔나?)
✗ 취약한 설정
# 캘린더 봇에 파일 삭제 권한까지 부여
user$ "모든 오래된 파일 정리해줘"
>> rm -rf /shared/2024_* 실행
→ 되돌릴 수 없는 삭제
✓ 안전한 설정
# 읽기 전용 권한 + 확인 단계
sys$ 파괴적 동작은 인간 승인 필수
>> 삭제 목록 제시 — 승인 대기
→ 실수·조종 모두 차단
🔧 조치 방법
- 에이전트 툴은 최소 권한(읽기 우선)만 부여합니다.
- 삭제·송금·발송 같은 파괴적 동작에는 인간 승인 단계를 둡니다.
- 툴 호출에는 속도·횟수 제한과 감사 로그를 적용합니다.
✅ 점검 체크리스트
- 툴 권한이 최소화됨
- 파괴적 동작에 인간 승인 존재
- 툴 호출 감사 로그 존재
점검기준: OWASP LLM06 Excessive Agency