Gemini Batch API, 언제 쓰면 좋을까?
답을 바로 보여줘야 하는 채팅보다, 기다려도 되는 대량 요약·분류에 Gemini Batch API가 맞습니다. 요청을 묶어 비동기로 처리하는 방식입니다. Google이 안내하는 처리 목표는 24시간이며, 정확히 그 안에 끝난다는 보장은 아닙니다. 공식 Batch API 안내
비용보다 먼저, 결과가 필요한 시간을 보세요
2026년 10월 24일 확인한 공식 가격표는 Batch API를 유료 등급 기능으로 안내하며, 같은 모델의 표준 API 비용 대비 50% 절감을 설명합니다. 무료 사용이나 전체 청구액 반값을 뜻하지는 않습니다. 사용할 모델의 Batch 지원과 현재 요금부터 확인하세요.
가상 업무로 비교하면 쉽습니다. 고객이 화면에서 기다리는 답변은 즉시 응답 경로에 남기고, 내일 검토할 공개 문서 묶음의 초벌 분류는 배치 후보로 나눕니다. 한 서비스에서도 두 방식을 함께 쓸 수 있습니다. 이 글은 공식 자료를 비교한 안내이며 실제 처리시간이나 절감액을 측정한 후기는 아닙니다.
접수 뒤에는 새로 만들지 말고 상태를 확인하세요
작업을 생성하면 받은 작업 이름을 보관합니다. 이후에는 그 이름으로 진행 상태와 결과를 조회합니다. 배치 생성은 같은 요청을 반복해도 하나로 합쳐주지 않습니다. 같은 생성 요청을 두 번 보내면 별도 작업 두 개가 만들어집니다. 기다리는 중이라는 이유로 생성부터 반복하지 마세요. 공식 작업 상태·운영 안내
Google 공식 Batch API 문서의 운영 주의 부분입니다. 원문 일부를 잘랐으며 내용 변경은 없습니다. CC BY 4.0, 2026-10-24 확인.
완료됐어도 요청별 결과를 대조하세요
파일 방식은 한 줄에 요청 하나를 넣는 JSONL 형식입니다. 각 요청의 key는 결과가 어느 입력에 대응하는지 구분하는 값입니다.
예를 들어 공개 문서 A에 doc-a, 문서 B에 doc-b를 붙였다면, 받은 결과에서도 그 식별값을 대조합니다. 이는 설명용 예시이며 실제 실행 결과가 아닙니다.
JOB_STATE_SUCCEEDED는 결과를 받을 수 있는 작업 상태입니다. 여기서 멈추지 말고 실패 요청 수와 결과 파일 각 줄의 오류도 확인하세요. 작업 접수, 작업 종료, 필요한 결과 확보는 서로 다른 확인 단계입니다. 공식 결과 조회 안내
입력 크기부터 가늠해야 한다면 Gemini API 토큰 수 확인하는 법에서 사전 집계와 실제 응답 사용량의 차이를 이어서 확인할 수 있습니다.