Prompt caching, tekrar eden uzun bağlamların (sistem promptu, araç listesi, büyük döküman) maliyetini ve gecikmesini ciddi oranda düşürür. Doğru kurulduğunda token faturasını %80'e varan oranda azaltabilir. Bu rehberde nasıl çalıştığını ve en sık yapılan hatayı işliyoruz.
Önek (prefix) eşleşmesi
Cache, istemin başından itibaren birebir aynı olan kısmı yeniden kullanır. İşlenme sırası şudur: tools → system → messages. Önekteki tek bir baytlık değişiklik, o noktadan sonrasının tamamını geçersiz kılar.
Nasıl açılır?
Önbelleğe alınacak bloğa bir cache_control işareti koyarsın (SDK'da ephemeral tipi). Claude 5 ailesinde cache okuma, normal giriş fiyatının küçük bir kesridir — örneğin Opus 5.5'te 1M giriş ~$4 iken cache okuma ~$0,20 seviyesindedir.
En sık hata: sessiz geçersizleştirme
İnsanların çoğu cache'in çalıştığını sanır ama bir ayrıntı her isteği bozar:
- Sistem promptunda
datetime.now()gibi her çağrıda değişen bir değer. - Her seferinde farklı sıralanan JSON ya da değişen araç listesi.
- Önekteki en ufak düzenleme (bir boşluk bile).
Doğrula
Çalışıp çalışmadığını usage.cache_read_input_tokens alanından gör. Tekrarlı isteklerde bu değer sıfır kalıyorsa, önekte sessiz bir geçersizleştirici var demektir — onu avla.
Özet
Caching ücretsiz bir kazançtır ama yalnızca önek kararlıysa işler. Sabit önce, değişken sonra; bir cache_control işareti; ve cache_read_input_tokens ile doğrula. Üçü tamamsa fatura küçülür.