Le Prompt Caching pour les longs chats de roleplay
Le prompt caching (mise en cache du prompt) permet au fournisseur d'IA de réutiliser la partie fixe de votre prompt (le preset, la carte de personnage, le lorebook et l'historique des messages) avec une remise de 90%–95%, au lieu de vous facturer le plein tarif d'entrée à chaque nouvelle réponse.
Pourquoi 95% de votre facture RP provient des tokens d'entrée
Quand vous écrivez un message de 100 tokens dans un chat RP qui en compte 32,000, SillyTavern n'envoie pas seulement vos 100 nouveaux tokens : il renvoie l'intégralité des 32,000 tokens de l'historique pour que le modèle garde le fil de l'histoire. Sur une soirée de 50 réponses, cela représente environ 1,600,000 tokens en entrée et 20,000 tokens en sortie. Avec Claude Opus 5.5 ($2.80/MTok en entrée, $14.00/MTok en sortie), cette soirée de 50 réponses sans cache revient à environ $4.76. Avec le cache de prompt activé, la lecture du cache tombe à $0.14/MTok — ce qui ramène la même soirée à environ $1.03.
| Modèle | 50 réponses sans cache | 50 réponses avec cache TavernAPI | Économie estimée |
|---|---|---|---|
| Claude Opus 5.5 | ~4,76 $ | ~1,03 $ | ~78 % d'économie |
Comment TavernAPI applique le cache automatiquement
En temps normal, le mode Custom (OpenAI-compatible) de SillyTavern ne place pas les marqueurs cache_control pour vous. TavernAPI les ajoute automatiquement côté serveur, que vous utilisiez notre preset TavernAPI ou votre propre preset local :
Trois erreurs qui cassent le cache de prompt (et comment les éviter)
1. Les macros aléatoires tout en haut du prompt
Le cache de prompt ne fonctionne que si le début du prompt est strictement identique à celui du tour précédent. Si un preset local insère {{random}} ou {{roll}} dans le prompt système d'ouverture, tout le cache est invalidé à chaque message. Placez les macros aléatoires vers la fin de l'ordre du prompt.
2. Les entrées de lorebook qui changent sans cesse en profondeur 0 (tout en haut)
Lorsque des entrées de World Info s'activent puis disparaissent tout en haut du prompt, tout ce qui suit doit être remis en cache. Si vous utilisez un gros lorebook dynamique, injecter les entrées déclenchées à une faible profondeur dans le chat (par exemple @depth 2 ou 4) permet de préserver le cache de votre historique principal.
3. Faire une pause plus longue que la durée de vie du cache
Les fournisseurs en amont conservent le préfixe mis en cache en mémoire pendant environ 5 minutes d'inactivité (le délai est prolongé à chaque message envoyé). Lorsque vous faites une pause et revenez une heure plus tard, la première réponse réécrit le cache, puis les réponses suivantes repassent immédiatement au tarif réduit de lecture du cache.
Suivez vos économies exactes dans la console
La plupart des passerelles API gèrent le cache en silence, sans vous dire s'il a bien fonctionné. Dans la console TavernAPI, votre page Utilisation affiche les tokens d'entrée, les tokens lus en cache, les tokens écrits en cache ainsi que le montant exact en USD que le cache vous a fait économiser sur la période choisie.
Questions fréquentes
Mon solde expire-t-il, et comment fonctionnent les packs de crédit de 30 jours ?
Le solde classique à l'usage ajouté par rechargement en cryptomonnaie ou par code prépayé n'expire jamais. Si vous voulez du crédit bonus sans abonnement récurrent, vous pouvez acheter manuellement un pack de crédit de 30 jours : payez $9 pour $10, $19 pour $23 (Recommandé) ou $39 pour $48. Le crédit des packs fonctionne sur les cinq modèles, ne se renouvelle jamais automatiquement et reste valable pendant 30 jours à compter de l'achat.
Comment vos prix se comparent-ils aux tarifs API officiels ?
Nos modèles Claude et Gemini coûtent 20%–40% de moins que les tarifs publics officiels : Claude Opus 5.5 est à $2.80/$14 par 1M de tokens (-30%), Sonnet 5.5 à $1.60/$8 (-20%), Gemini 4 Argon à $1.20/$6 (-40%) et Gemini 3.8 Flash à $0.49/$2.45 (~35% de moins). DeepSeek V4 Pro passe par l'API officielle DeepSeek à un tarif fixe unique 24/7 ($1.49/$4.49, proche du tarif officiel en heures pleines).
Comment le cache de prompt automatique permet-il d'économiser de l'argent ?
Notre serveur place des marqueurs de cache sur le préfixe système/preset, votre carte de personnage et l'historique de votre conversation afin que les fournisseurs en amont réutilisent ces tokens avec une remise de 90%–95% lors des réponses suivantes. Sur une session classique de 50 réponses à 32k de contexte avec Claude Opus 5.5 (~1.6M de tokens en entrée et 20k en sortie), le cache fait passer le coût total d'environ $4.76 à près de $1.03.
Comment obtenir les $0.30 de crédit d'essai gratuit et sur quels modèles puis-je les utiliser ?
Les nouveaux comptes reçoivent automatiquement $0.30 de crédit d'essai gratuit après avoir vérifié une adresse e-mail ou en se connectant avec un compte Google ou Discord vérifié. Vous pouvez utiliser ce crédit d'essai immédiatement sur Gemini 3.8 Flash (gemini-3.8-flash) et Gemini 4 Argon (gemini-4-argon).