docs.x.ai/developers/advanced-api-usage/prompt-caching)를 따르며, 2026-08-19에 APIYI 게이트웨이에서 grok-4.6을 실사용 테스트한 결과(124회 호출, 백엔드 과금 기록과 줄 단위 대조)를 기반으로 작성되었습니다.
한 문장으로 요약
요청의 시작 부분(접두사) 이 최근 요청과 바이트 단위로 일치할 때마다 업스트림은 중복 작업을 건너뜁니다. 일치하는 부분에는 0.25× 요율이 적용됩니다. 매개변수도, 마커도 필요하지 않습니다. 다른 두 가지와의 차이점:- Claude 대비:
cache_control마커가 없습니다. 조건이 충족되면 자동으로 적용됩니다. - OpenAI 대비: 작성 비용이 들지 않고 동일하게 자동으로 적용되지만, Grok에서는
prompt_cache_key과 같은 라우팅 제어 기능을 제공하지 않습니다.
왜 신경 써야 합니까 — 요율 배수를 확인하십시오
모델의 원시 입력 token 가격을 **1×**로 가정합니다.
손익분기점: 두 번째 요청입니다. 상각할 쓰기 요금이 없으므로 접두부가 처음 재사용되는 순간 절약되는 금액 전부가 순수한 이득입니다.
grok-4.6의 달러 기준 가격(1M token당, 두 컨텍스트 등급 모두):
다른 Grok 모델의 등급 구간과 캐시 읽기 요금은 Grok 개요의 등급별 가격표에 나와 있습니다.
적합한 경우
- 하나의 긴 시스템 prompt와 도구 정의를 반복해서 호출하는 경우(에이전트, 지원 봇)
- 하나의 문서에 대한 일괄 작업(하나의 계약서에 대한 50개 질문)
- 안정적인 문서 청크가 prompt 앞부분에 배치되는 RAG
- 멀티턴 대화 — 단, Grok에서는 이를 수행하는 두 가지 방식이 매우 다르게 동작한다는 점에 유의하십시오(아래 참조)
부적합한 경우
- 매번 첫 번째 문자부터 달라지는 요청
- 천 token 미만 범위의 prompt — 테스트 결과, 이러한 요청을 반복해서 호출해도 재사용 가능한 캐시가 생성되지 않았습니다
두 엔드포인트의 스트리밍 및 비스트리밍 모두 대조 완료
/v1/chat/completions 및 /v1/responses의 스트리밍과 비스트리밍 모두에 대해 2026-08-19에 백엔드 과금 기록을 기준으로 네 가지 조합을 모두 대조했으며, 모든 경우에 캐시된 부분에는 캐시 요율이 적용되었습니다:
게이트웨이에 대한 클라이언트 측 조정은 필요하지 않습니다. 캐시 동작은 업스트림으로 그대로 전달되고,
cached_tokens은 변경 없이 그대로 반환되며, 백엔드 과금 내역에는 캐시된 부분이 별도의 “캐시 읽기” 항목으로 표시됩니다.적중 조건
적중 결과는 128 token 단위로 내림됩니다
cached_tokens는 일반적으로 안정적인 접두사보다 조금 작으며 — 이는 예상된 결과입니다.
추가만 허용: 기록을 편집하면 중단됩니다
동일한 접두사를 연속으로 전송하되, 한 번의 호출만 변경했습니다.
실제로는 안정적인 콘텐츠를 먼저 배치하고, 변동성 콘텐츠를 마지막에 배치해야 합니다.
최소 실행 예제
동일한 긴 접두사를 서로 다른 질문과 함께 두 번 전송합니다. 첫 번째 요청에서는 캐시에 기록하고, 두 번째 요청에서는 캐시 적중이 발생합니다.cached는 시스템 프롬프트 길이에 가깝고(128 단위로 내림), 해당 부분에는 0.25×의 요율이 적용됩니다.
/v1/responses 엔드포인트도 동일한 방식으로 자동 작동하며, 해당 필드는 usage.input_tokens_details.cached_tokens입니다. 긴 대화는 해당 엔드포인트에서 추가적인 이점을 얻습니다 — 아래의 “긴 대화는 responses 체인에 속합니다”를 참조하십시오.적중과 미적중 구분하기 — 사용량 필드 읽기
읽는 방법: 작은 값은 적중이 아닙니다
단순히 “0보다 큰지”만 확인하지 마십시오.cached_tokens를 안정적인 프리픽스 길이와 비교하십시오.
테스트에서는 캐시가 없는 첫 호출에서도 간혹 100~200 정도의 값이 반환됩니다. 혼동하지 마십시오. 이는 프리픽스가 캐시되었다는 의미가 아닙니다.
대조: 콘솔의 캐시 과금 세부 정보
단일 호출의 백엔드 로그에는 캐시에서 읽은 token 수와 해당 할인 요율 배수가 별도 항목으로 표시되며, 응답의cached_tokens과 대조할 수 있습니다. 한 번의 호출에 과금된 방식을 정확히 확인해야 할 때는 이 정보가 기준이 됩니다.
3단계 자체 확인:
- 1,000 token이 넘는 안정적인 프리픽스를 만들고 요청을 두 번 연속으로 전송합니다
- 두 번째 응답에
cached_tokens이 수천 단위로 명확하게 표시되어야 합니다 - 백엔드 호출 로그에서 해당 요청에 “캐시 읽기” 항목이 표시되고, 첫 번째 요청보다 입력 비용이 눈에 띄게 낮은지 확인합니다
적중률 개선
안정적인 접두사 설계
- 긴 지침, few-shot 예시, 도구 정의를 먼저 배치하고 사용자 입력과 타임스탬프를 마지막에 배치합니다
- 도구 정의 순서와 JSON 직렬화를 고정합니다(직렬화기가 키를 섞지 않도록 합니다)
- 이미지 입력도 접두사 매칭에 포함되므로, 동일한 이미지를 재사용할 때 base64 / URL과 매개변수를 동일하게 유지합니다
- 짧은 시간에 집중적으로 호출할 때 동일한 접두사를 재사용합니다
긴 대화는 Responses 체인에서 처리
이는 Grok에서 쉽게 놓칠 수 있는 차이점입니다.
따라서 긴 대화와 여러 단계의 에이전트에서는 Responses API 체인을 사용하십시오.
x-grok-conv-id 정보
xAI의 모범 사례에서는 적중률을 높이기 위해 모든 요청에 x-grok-conv-id 헤더(UUID 또는 세션 ID)를 전송할 것을 권장합니다. APIYI에서 대칭적인 A/B 테스트를 수행했습니다. 헤더가 있는 경우와 없는 경우에 대해 여러 개의 독립적인 접두사를 사용하고 각각 여러 차례 재사용했지만, 두 그룹 사이에서 관찰 가능한 차이를 확인하지 못했습니다. 이를 전송해도 문제가 되지 않지만, 적중률을 위해 이에 의존해서는 안 됩니다.
적중률 및 예상 사항
한 가지 더 분명히 말하자면, 캐싱의 가치는 속도가 아니라 비용 절감에 있습니다. 측정된 첫 token까지 걸리는 시간은 적중과 미적중 간에 수백 밀리초 정도만 달랐습니다. 캐싱으로 긴 컨텍스트 요청이 빨라질 것이라고 기대하지 마십시오.일반적인 문제
다른 채널과의 빠른 비교
전체 플랫폼의 캐싱 지원에 대해서는 캐시 과금 FAQ를 참조하시기 바랍니다.
이 페이지의 모든 내용은
grok-4.6(2026-08-19)에 측정되었습니다. xAI는 모든 Grok 언어 모델이 프리픽스 캐싱을 지원한다고 밝히고 있습니다. 다른 모델은 각각 벤치마크하지 않았으므로 블록 단위나 짧은 prompt 동작과 같은 세부 사항은 실제 워크로드에서 직접 확인하시기 바랍니다.특정 프리픽스에 대해 확인되는 과금이 여기에 설명된 내용과 명확히 다르면, 응답 헤더의 request-id를 함께 제공하여 지원팀에 문의하시기 바랍니다.요약
1. 완전 자동
마커도 없고 기록 요금도 없습니다. 조건을 충족하면 캐시되며, 두 번째 재사용부터는 순수한 절약입니다.
2. 추가만 가능
메시지의 시작부터 바이트 단위로 일치 여부를 확인합니다. 기록을 편집하면 캐시가 무효화되며, 적중량은 128 token 단위로 내림 처리됩니다.
3. 긴 대화를 이어가기
멀티턴 채팅에서는 원래의 정적 접두사만 재사용합니다. 응답과 이전 response_id가 추가되면 매 턴마다 적중량이 증가합니다.
4. 적중을 전제로 예산을 책정하지 않기
적중은 보장되지 않습니다. 캐시되지 않은 가격을 기준으로 예산을 책정하고, 할인을 보너스로 취급해야 합니다.
관련 링크
- 동일한 그룹: Grok 개요 · 채팅 및 추론 · 웹 및 X 검색 · 코드 실행 및 MCP
- 다른 채널의 캐싱: OpenAI 캐시 과금 · Gemini 캐시 과금 · Claude 캐시 과금
- 플랫폼 전체 개요: 캐시 과금 FAQ
- tokens 가져오기 또는 관리:
https://api.apiyi.com/token - xAI 공식 문서:
docs.x.ai/developers/advanced-api-usage/prompt-caching