Prompt-Caching für lange Rollenspiel-Chats
Durch Prompt-Caching kann der KI-Anbieter den gleichbleibenden Teil deines Prompts (Preset, Charakterkarte, Lorebook und bisherigen Chatverlauf) mit 90%–95% Rabatt wiederverwenden, statt bei jeder einzelnen Antwort den vollen Input-Preis zu berechnen.
Warum deine RP-Rechnung zu 95% aus Input-Tokens besteht
Wenn du in einem Rollenspiel-Chat mit 32,000 Tokens eine Nachricht mit 100 Tokens schreibst, schickt SillyTavern nicht nur diese 100 Tokens los – es sendet jedes Mal den gesamten Verlauf von 32,000 Tokens erneut mit, damit das Modell die Geschichte nicht vergisst. Bei 50 Antworten an einem Abend summiert sich das auf rund 1,600,000 Input-Tokens und 20,000 Output-Tokens. Bei Claude Opus 5.5 ($2.80/MTok Input, $14.00/MTok Output) kostet dieser Abend mit 50 Antworten ohne Caching etwa $4.76. Mit aktivem Prompt-Caching sinkt das Lesen aus dem Cache auf $0.14/MTok – derselbe Abend landet damit bei rund $1.03.
| Modell | 50 Antworten ohne Caching | 50 Antworten mit TavernAPI-Caching | Geschätzte Ersparnis |
|---|---|---|---|
| Claude Opus 5.5 | ~4,76 $ | ~1,03 $ | ~78 % günstiger |
Wie TavernAPI das Caching automatisch übernimmt
Normalerweise setzt SillyTavern im Modus Custom (OpenAI-compatible) keine cache_control-Haltepunkte für dich. TavernAPI fügt sie automatisch auf dem Server hinzu – egal ob du unser TavernAPI-Preset oder dein eigenes lokales Preset nutzt:
Drei Dinge, die das Prompt-Caching aushebeln (und wie du sie vermeidest)
1. Zufallsmakros ganz am Anfang des Prompts
Prompt-Caching funktioniert nur, wenn der Anfang des Prompts exakt mit der vorherigen Runde übereinstimmt. Wenn ein lokales Preset {{random}} oder {{roll}} in den einleitenden System-Prompt schreibt, geht der gesamte Cache bei jeder Nachricht ins Leere. Platziere Zufallsmakros deshalb immer weit unten in der Prompt-Reihenfolge.
2. Ständig wechselnde Lorebook-Einträge auf Depth 0 (ganz oben im Prompt)
Wenn World-Info-Einträge ganz am Anfang des Prompts ausgelöst werden und wieder verschwinden, muss alles dahinter neu gecacht werden. Wenn du umfangreiche dynamische Lorebooks nutzt, füge ausgelöste Einträge lieber auf einer niedrigen Chat-Tiefe ein (z. B. @depth 2 oder 4) – so bleibt der Cache für deinen Hauptverlauf intakt.
3. Pausen, die länger dauern als das Cache-Zeitfenster des Anbieters
Die Upstream-Anbieter halten gecachte Präfixe für etwa 5 Minuten Inaktivität im Speicher (jede gesendete Nachricht setzt den Timer zurück). Wenn du eine Pause machst und eine Stunde später weiterschreibst, legt die erste Antwort den Cache einmal neu an, und ab der nächsten Antwort greift sofort wieder der günstige Cache-Read-Tarif.
Sieh deine genaue Ersparnis in der Konsole
Die meisten API-Gateways unterstützen Caching nur still im Hintergrund, ohne dir zu verraten, ob es überhaupt geklappt hat. In der TavernAPI-Konsole zeigt dir die Seite „Usage“ genau deine Input-Tokens, Cache-Read-Tokens, Cache-Write-Tokens sowie den exakten USD-Betrag, den dir das Caching im gewählten Zeitraum gespart hat.
Häufige Fragen
Verfällt mein Guthaben, und wie funktionieren die 30-Tage-Guthabenpakete?
Reguläres Pay-as-you-go-Guthaben aus Krypto-Aufladungen oder Gutscheincodes verfällt nie. Wenn du dir zusätzliches Bonus-Guthaben ohne laufendes Abo sichern möchtest, kannst du manuell ein 30-Tage-Guthabenpaket kaufen: zahle $9 für $10, $19 für $23 (Empfohlen) oder $39 für $48. Das Paket-Guthaben gilt für alle fünf Modelle, verlängert sich niemals automatisch und ist ab dem Kauf 30 Tage lang gültig.
Wie schneiden eure Preise im Vergleich zu den offiziellen API-Listenpreisen ab?
Unsere Modelle von Claude und Gemini kosten 20%–40% weniger als die offiziellen Listenpreise: Claude Opus 5.5 liegt bei $2.80/$14 pro 1M Tokens (30% Rabatt), Sonnet 5.5 bei $1.60/$8 (20% Rabatt), Gemini 4 Argon bei $1.20/$6 (40% Rabatt) und Gemini 3.8 Flash bei $0.49/$2.45 (~35% Rabatt). DeepSeek V4 Pro läuft über die offizielle DeepSeek-API zu einem einheitlichen 24/7-Festpreis ($1.49/$4.49, nahe am offiziellen Hauptzeit-Tarif).
Wie spart das automatische Prompt-Caching Geld?
Unser Server setzt Cache-Haltepunkte hinter deinen System- bzw. Preset-Präfix, deine Charakterkarte und den bisherigen Gesprächsverlauf, sodass die Upstream-Anbieter diese Tokens bei den folgenden Antworten mit 90%–95% Rabatt wiederverwenden. In einer typischen Runde mit 50 Antworten und 32k Kontext auf Claude Opus 5.5 (~1.6M Input- und 20k Output-Tokens) sinken die Gesamtkosten dadurch von rund $4.76 auf etwa $1.03.
Wie bekomme ich das kostenlose Startguthaben von $0.30 und für welche Modelle gilt es?
Neue Konten erhalten automatisch $0.30 kostenloses Startguthaben, sobald eine E-Mail-Adresse bestätigt wurde oder die Anmeldung über ein verifiziertes Google- oder Discord-Konto erfolgt ist. Du kannst das Startguthaben sofort für Gemini 3.8 Flash (gemini-3.8-flash) und Gemini 4 Argon (gemini-4-argon) nutzen.