Prompt Caching — 반복 프롬프트 비용과 지연 줄이기

Prompt Caching

같은 시스템 프롬프트·긴 문서를 매 요청마다 다시 처리하면 비용과 지연이 계속 쌓여요. **프롬프트 캐싱(prompt caching)**은 이전에 처리한 프롬프트의 결과를 재사용해서, 캐시된 입력에 대해 더 빠르고 저렴하게 응답받는 기능이에요. 긴 컨텍스트·문서 분석·대화형 앱에서 효과가 특히 큽니다.

이 카테고리의 문서

• 개요: 프롬프트 캐싱 작동 방식(Anthropic)
• 핵심 기능: 캐시 포인트·자동 캐싱(공식 뉴스)
• 실전·API: 캐시 제어로 코드에서 사용하기

출처: https://docs.anthropic.com/en/docs/build-with-claude/prompt-caching