대화·프롬프트 · Prompt Caching중급갱신일 2026. 10. 1.
프롬프트 캐싱
반복되는 긴 시스템·문서를 캐시해 비용·지연을 줄이는 기능입니다.
비유
자주 읽는 매뉴얼을 책상 위에 두고 매번 서고에서 찾지 않는 것과 같습니다.
이렇게 이해하세요
프롬프트 캐싱은 고정 접두(시스템·정책·대형 문서)를 재사용해 토큰 비용을 낮춥니다. 캐시 무효화·개인정보 포함 여부를 관리해야 합니다. 실무에서는 정의만 외우지 말고 ‘언제 쓰고 언제 쓰지 말아야 하는지’를 함께 기억하세요. 불확실한 사실은 출처를 확인하고, 민감 정보는 마스킹한 뒤 도구에 넣으세요.
한 줄 암기
프롬프트 캐시 = 고정문 재사용
좋은 예
동일 정책 문서를 캐시하고 질문만 바꾼다.
피하기
사용자 PII가 섞인 접두를 장기 캐시한다.
관련 서비스
관련 에이전트
관련 용어
대화·프롬프트 더보기관련 링크
자주 묻는 질문
모든 모델?
제공자·모델마다 지원이 다릅니다.
보안은?
캐시에 민감정보가 남지 않게 설계하세요.