📋 취약점 개요
이용자가 입력하는 프롬프트에는 타인의 개인정보가 섞이기 쉽고, 이를 그대로 학습에 쓰거나 로그에 평문 저장하면 유출로 이어집니다. 허용되는 이용방침(AUP) 공개, 신고 기능, 출력물 삭제 요청 절차가 필요합니다.
🖥️ 상태 비교 시뮬레이션
privacy$ (취약)
# 사내 상담 챗봇 로그
user$ 아래 고객 민원 요약해줘: 홍길동 010-1234-5678 …
>> 프롬프트 원문 평문 저장 · 기본값으로 학습에 이용
>> AUP·신고 기능 없음 · 삭제 요청 경로 없음
→ 타인 개인정보가 모델·로그에 축적
🔧 조치 방법
- 입력 프롬프트에서 개인정보 패턴을 탐지·마스킹하고, 필요 시 입력 자체를 차단합니다.
- 프롬프트의 학습 이용 여부를 명확히 정하고 처리방침에 공개하며, 학습에 쓰려면 별도 동의 또는 가명처리를 거칩니다.
- 허용되는 이용방침(AUP)을 공개해 타인의 개인정보 입력 금지를 고지합니다.
- 부적절한 답변·개인정보 노출에 대한 신고 기능을 제공하고 처리 절차를 운영합니다.
- 출력물에 생성된 얼굴·목소리 등의 삭제 요청 접수·조치(입출력 필터링, 재학습 배제) 절차를 마련합니다.
- 프롬프트 로그의 보관기간·암호화·접근권한을 정의하고 최소화합니다.
✅ 점검 체크리스트
- 프롬프트 개인정보 필터링 적용됨
- AUP 공개 및 신고 기능 존재
- 출력물 삭제 요청 처리 절차 존재
근거: 개인정보 영향평가 AI 분야 5.7.9, 5.7.10 · 생성형 AI 개인정보 처리 안내서