長編ロールプレイを支えるプロンプトキャッシュ

プロンプトキャッシュとは、プロンプト内の変化しない部分(プリセット、キャラクターカード、ロアブック、過去のチャット履歴)を AI プロバイダー側で再利用し、毎ターンの入力料金を通常単価ではなく 90%〜95% 割引で処理する仕組みです。

なぜロールプレイの料金は 95% が入力トークンなのか

32,000 トークンの長編ロールプレイ中に 100 トークンの新しいメッセージを送るとき、SillyTavern はその 100 トークンだけを送るのではなく、AI がこれまでの話を忘れないように 32,000 トークンの履歴全体を毎回送り直しています。一晩で 50 往復すると、出力は 2 万トークンほどでも、入力は合計で約 160 万トークンに達します。Claude Opus 5.5(入力 $2.80/MTok、出力 $14.00/MTok)の場合、キャッシュなしだとこの 50 往復で約 $4.76 かかりますが、プロンプトキャッシュが効けばキャッシュ読取は $0.14/MTok まで下がり、同じ一晩が約 $1.03 で済みます。

試算例:32k コンテキストのチャットで 50 往復した場合(入力約 160 万トークン、出力 2 万トークン)
モデル 50 往復(キャッシュなし) 50 往復(TavernAPI キャッシュあり) 推定節約率
Claude Opus 5.5 ~$4.76 ~$1.03 約 78% オフ

TavernAPI が自動でキャッシュを適用する仕組み

通常、SillyTavern の Custom (OpenAI-compatible) モードでは、cache_control のブレークポイントは自動付与されません。TavernAPI では専用プリセットを使う場合も自作プリセットを使う場合も、サーバー側で自動的に 3 つのブレークポイントを設定します:

ブレークポイント 1 — システム指示&プリセット先頭部:冒頭のシステムプロンプトと展開済みの TavernAPI プリセットブロックをプロンプトの最先端に配置し、ターンをまたいでキャッシュを維持します。
ブレークポイント 2 — キャラクターカード&固定ロアブック:キャラクター設定、ペルソナ、常時有効なワールドインフォを冒頭ルールの直後にまとめてキャッシュします。
ブレークポイント 3 — チャット履歴の末尾付近:会話履歴の終盤に自動でキャッシュ境界を移動させ、毎回「一番新しいターンの差分」だけに通常入力料金がかかるようにします。

プロンプトキャッシュが切れる 3 つの原因(と回避策)

1. プロンプト先頭にあるランダムマクロ

プロンプトキャッシュは、プロンプトの先頭部分が前のターンと完全に一致している場合にのみ機能します。ローカルプリセットの冒頭システムプロンプトに {{random}} や {{roll}} が入っていると、毎ターン内容が変わってしまいキャッシュがすべて外れます。ランダムマクロを使う場合はプロンプト順序の末尾近くに配置してください。

2. Depth 0(プロンプト最上部)で頻繁に出し入れされるロアブックエントリ

キーワード発動型のワールドインフォがプロンプトの最上部でオン・オフを繰り返すと、それより後ろにある履歴すべてのキャッシュが作り直しになります。動的なロアブックを多用する場合は、挿入位置を浅いチャット深度(@depth 2 や 4 など)に設定すると、メインの履歴キャッシュを壊さずに済みます。

3. プロバイダーのキャッシュ保持時間を超える離席

上流プロバイダーのキャッシュは、最後の操作から約 5 分間メモリに保持されます(メッセージを送るたびに延長されます)。1 時間ほど休憩してから再開した場合は、最初の 1 ターンだけキャッシュの再書き込みが行われ、2 ターン目からは再び割引料金に戻ります。

節約できた金額をコンソールでそのまま確認

多くの API ゲートウェイは、キャッシュが効いていても実際にいくら浮いたのかを表示してくれません。TavernAPI のコンソールでは、「Usage」ページに入力トークン・キャッシュ読取トークン・キャッシュ書込トークンの内訳と、選択した期間内にキャッシュで節約できた正確な米ドル(USD)金額が表示されます。

よくある質問

残高に有効期限はありますか?また、30 日間クレジットパックとは何ですか?

通常の仮想通貨チャージや引き換えコードで追加した従量課金残高に有効期限はありません。定期課金なしでボーナス分のクレジットをお得に受け取りたい場合は、買い切り型の 30 日間クレジットパック($9 で $10 分、おすすめの $19 で $23 分、$39 で $48 分)を手動で購入できます。パックのクレジットは全 5 モデル共通で使え、自動更新は一切なく、購入から 30 日間有効です。

公式 API の定価と比べて料金はどのくらい安いですか?

Claude と Gemini は公式定価より 20%〜40% 安く設定されています。100 万トークンあたりの入力/出力単価は、Claude Opus 5.5 が $2.80 / $14(30% オフ)、Sonnet 5.5 が $1.60 / $8(20% オフ)、Gemini 4 Argon が $1.20 / $6(40% オフ)、Gemini 3.8 Flash が $0.49 / $2.45(約 35% オフ)です。DeepSeek V4 Pro は DeepSeek 公式 API 上で 24 時間同一のフラット料金($1.49 / $4.49、公式のピーク時間帯料金とほぼ同水準)で提供しています。

自動プロンプトキャッシュでどうやって料金が安くなるのですか?

システム指示/プリセット先頭部、キャラクターカード、および過去の会話履歴にサーバー側でキャッシュ境界(ブレークポイント)を設定し、上流プロバイダーが 2 ターン目以降それらのトークンを 90%〜95% 割引で再利用できるようにしています。例えば Claude Opus 5.5 で 32k コンテキスト・50 往復(入力約 160 万+出力 2 万トークン)のセッションを行った場合、合計コストは約 $4.76 から約 $1.03 まで下がります。

$0.30 の無料トライアルクレジットはどうすればもらえますか?どのモデルで使えますか?

新規アカウントでメールアドレス認証を完了するか、認証済みの Google または Discord アカウントでログインすると、自動的に $0.30 分の無料トライアルクレジットが付与されます。トライアルクレジットは Gemini 3.8 Flash(gemini-3.8-flash)と Gemini 4 Argon(gemini-4-argon)ですぐにお使いいただけます。