Gemini API 캐시, 언제 비용이 줄어들까?
같은 긴 문서를 여러 번 읽히고 질문만 바꾼다면 Gemini API 캐시를 검토할 만합니다. 다만 명시적 캐시는 할인된 입력 비용뿐 아니라 보관 시간에 따른 비용도 있으므로, 한 번 읽고 끝나는 문서까지 저장하는 방식은 피하는 편이 좋습니다.
캐시를 만들기 전에 API부터 확인하세요
현재 Interactions API와 Gemini 4 Argon은 암묵적 캐시(implicit caching)만 지원합니다. 직접 캐시 객체를 만드는 명시적 캐시(explicit caching)는 지원되는 Gemini 3·2.5 모델에서 generateContent API로 사용해야 합니다.
암묵적 캐시는 Gemini 2.5 이상에서 기본 활성화됩니다. 반복되는 긴 공통 내용을 프롬프트 앞에 두고, 비슷한 요청을 짧은 간격으로 보내면 캐시 적중 가능성을 높일 수 있습니다. 하지만 같은 내용을 보냈다는 이유만으로 적중했다고 단정하면 안 됩니다.
Interactions API 응답에서는 usage.total_cached_tokens로 실제 적중 토큰을 확인할 수 있습니다. 모델별 최소 입력 토큰 조건도 있으므로, 짧은 문장을 반복한 결과를 긴 문서 작업과 같게 비교하지 마세요.
Google 공식 문서의 API별 캐시 지원 안내입니다. 로고와 메뉴를 제외한 본문만 잘랐으며 내용은 바꾸지 않았습니다. 원문 · CC BY 4.0, 2026년 10월 24일 확인.
할인율보다 보관 시간이 중요할 때
명시적 캐시를 쓰는 generateContent 작업이라면, 같은 원문을 저장한 뒤 캐시 이름을 참조해 후속 질문을 보냅니다. TTL은 캐시를 유지할 시간이고, 지정하지 않으면 기본 1시간입니다.
예를 들어 같은 공개 제품 설명서를 두고 사양·제약·지원 환경을 연달아 묻는 작업은 후보입니다. 반면 매번 다른 문서를 한 번씩 요약한다면 재사용할 부분이 적습니다. 이는 선택을 설명하기 위한 가상 예시이며 비용 실측 결과가 아닙니다.
비교할 항목은 다음과 같습니다.
- 캐시 없이 같은 원문을 반복 입력했을 때의 비용
- 캐시를 준비하고 사용하는 비용과 TTL 동안의 보관료
- 캐시 밖의 새 질문 및 출력 토큰 비용
명시적 캐시는 보관 시간을 무작정 늘리기보다 실제 후속 질문이 발생하는 시간에 맞춰 검토하세요. 단가는 현재 모델별 가격표에서 확인해야 합니다. 무료 여부나 한 모델의 할인율을 다른 모델에 그대로 적용하지 않습니다.
먼저 자신의 API 종류와 모델을 확인하고, 반복 입력 중 실제 적중한 토큰을 기록해 보세요. 입력량 자체를 파악하려면 Gemini API 토큰 수 확인하는 법을 이어 읽을 수 있습니다.
Google 공식 현재 캐시 문서와 generateContent 캐시 문서를 2026년 10월 24일 대조한 설명입니다. 직접 실행한 절감 실험은 아닙니다.