Gemini API 캐시, 언제 비용이 줄어들까?

같은 긴 문서를 여러 번 읽히고 질문만 바꾼다면 Gemini API 캐시를 검토할 만합니다. 다만 명시적 캐시는 할인된 입력 비용뿐 아니라 보관 시간에 따른 비용도 있으므로, 한 번 읽고 끝나는 문서까지 저장하는 방식은 피하는 편이 좋습니다.

명시적 캐시의 반복 입력 절약과 보관 비용을 설명하는 AI 생성 개념도입니다. 실제 Google 화면이나 비용 실측 결과가 아닙니다.

캐시를 만들기 전에 API부터 확인하세요

현재 Interactions API와 Gemini 4 Argon은 암묵적 캐시(implicit caching)만 지원합니다. 직접 캐시 객체를 만드는 명시적 캐시(explicit caching)는 지원되는 Gemini 3·2.5 모델에서 generateContent API로 사용해야 합니다.

암묵적 캐시는 Gemini 2.5 이상에서 기본 활성화됩니다. 반복되는 긴 공통 내용을 프롬프트 앞에 두고, 비슷한 요청을 짧은 간격으로 보내면 캐시 적중 가능성을 높일 수 있습니다. 하지만 같은 내용을 보냈다는 이유만으로 적중했다고 단정하면 안 됩니다.

Interactions API 응답에서는 usage.total_cached_tokens로 실제 적중 토큰을 확인할 수 있습니다. 모델별 최소 입력 토큰 조건도 있으므로, 짧은 문장을 반복한 결과를 긴 문서 작업과 같게 비교하지 마세요.

Google 공식 문서의 API별 캐시 지원 안내입니다. 로고와 메뉴를 제외한 본문만 잘랐으며 내용은 바꾸지 않았습니다. 원문 · CC BY 4.0, 2026년 10월 24일 확인.

할인율보다 보관 시간이 중요할 때

명시적 캐시를 쓰는 generateContent 작업이라면, 같은 원문을 저장한 뒤 캐시 이름을 참조해 후속 질문을 보냅니다. TTL은 캐시를 유지할 시간이고, 지정하지 않으면 기본 1시간입니다.

예를 들어 같은 공개 제품 설명서를 두고 사양·제약·지원 환경을 연달아 묻는 작업은 후보입니다. 반면 매번 다른 문서를 한 번씩 요약한다면 재사용할 부분이 적습니다. 이는 선택을 설명하기 위한 가상 예시이며 비용 실측 결과가 아닙니다.

비교할 항목은 다음과 같습니다.

- 캐시 없이 같은 원문을 반복 입력했을 때의 비용
- 캐시를 준비하고 사용하는 비용과 TTL 동안의 보관료
- 캐시 밖의 새 질문 및 출력 토큰 비용

명시적 캐시는 보관 시간을 무작정 늘리기보다 실제 후속 질문이 발생하는 시간에 맞춰 검토하세요. 단가는 현재 모델별 가격표에서 확인해야 합니다. 무료 여부나 한 모델의 할인율을 다른 모델에 그대로 적용하지 않습니다.

먼저 자신의 API 종류와 모델을 확인하고, 반복 입력 중 실제 적중한 토큰을 기록해 보세요. 입력량 자체를 파악하려면 Gemini API 토큰 수 확인하는 법을 이어 읽을 수 있습니다.

Google 공식 현재 캐시 문서와 generateContent 캐시 문서를 2026년 10월 24일 대조한 설명입니다. 직접 실행한 절감 실험은 아닙니다.