長篇角色扮演必備的提示詞快取(Prompt Caching)
提示詞快取能讓 AI 上游廠商重複利用提示詞中固定不變的部分(包含預設、角色卡、世界書與先前的聊天紀錄),在後續每一輪給予 90%~95% 的輸入折扣,不必每次回覆都重新按全額計費。
為什麼你的 RP 帳單有 95% 都是輸入 Token?
當你在一段 32,000 Tokens 的長篇對話裡打出 100 Tokens 的新訊息時,SillyTavern 並不是只傳這 100 Tokens,而是必須把整整 32,000 Tokens 的歷史對話全部重傳一次,模型才記得前面的劇情。一個晚上來回聊 50 輪,累積下來就是約 1,600,000 輸入 Tokens 與 20,000 輸出 Tokens。以 Claude Opus 5.5(輸入 $2.80/MTok、輸出 $14.00/MTok)為例,這 50 輪若無快取要花大約 $4.76;開啟提示詞快取後,命中快取的輸入讀取降至 $0.14/MTok,同樣聊一晚馬上降到約 $1.03。
| 模型 | 50 輪無快取 | 50 輪開啟 TavernAPI 快取 | 預估省下比例 |
|---|---|---|---|
| Claude Opus 5.5 | ~$4.76 | ~$1.03 | 省下約 78% |
TavernAPI 如何自動幫你加上快取
在一般情況下,SillyTavern 的 Custom (OpenAI-compatible) 模式並不會自動幫你標記 cache_control 快取斷點。無論你使用的是 TavernAPI 專用預設還是自己的本地預設,TavernAPI 都會在伺服器端自動加上三層斷點:
常見導致快取失效的 3 個原因(以及避開方法)
1. 在提示詞最開頭放了隨機巨集
提示詞快取的前提是「開頭內容必須與上一輪完全一致」。如果本地預設在最前面的系統提示詞放了 {{random}} 或 {{roll}},每一輪開頭都會改變,導致整段快取全部失效。請把隨機巨集放在提示詞順序的最末端。
2. 世界書條目頻繁在深度 0(提示詞頂端)觸發與消失
如果動態觸發的世界書條目設在提示詞最頂端,只要某一輪多觸發或少觸發一條,它後面的整串歷史紀錄就得重新寫入快取。若你使用大量動態世界書,建議將觸發位置設在較淺的對話深度(例如 @depth 2 或 4),就能保護前段的主聊天紀錄快取。
3. 兩次訊息間隔超過上游快取保留時間
上游廠商的快取通常會在停止互動約 5 分鐘後過期(每次發送新訊息都會自動刷新時間)。如果你離開休息一小時後回來繼續聊,第一輪會重新寫入快取,接著從第二輪開始就會再次恢復超低價的快取讀取費率。
在控制台一眼看清省下多少錢
大多數 API 閘道器就算支援快取,也不會告訴你到底有沒有生效。在 TavernAPI 控制台的 Usage(用量)頁面,你可以直接看到 Input tokens、Cache read tokens、Cache write tokens 的完整明細,以及快取在所選期間內幫你省下的確切美金金額。
常見問題
帳號餘額會過期嗎?30 天額度包又是怎麼運作的?
透過加密貨幣儲值或儲值碼兌換的一般按量計費餘額永遠不會過期。如果你想在不綁定自動續訂的情況下多拿額度,可以手動購買 30 天優惠額度包:付 $9 得 $10、付 $19 得 $23(推薦),或付 $39 得 $48。額度包適用於全部五款模型,絕不自動續費,有效期限為購買起算 30 天。
你們的價格跟官方 API 原價相比如何?
我們的 Claude 與 Gemini 模型比官方定價便宜 20%~40%:Claude Opus 5.5 每百萬 Tokens 為 $2.80/$14(便宜 30%)、Sonnet 5.5 為 $1.60/$8(便宜 20%)、Gemini 4 Argon 為 $1.20/$6(便宜 40%)、Gemini 3.8 Flash 為 $0.49/$2.45(便宜約 35%)。DeepSeek V4 Pro 則直連 DeepSeek 官方 API,採 24 小時全天單一費率($1.49/$4.49,接近官方尖峰時段價格)。
自動提示詞快取是怎麼幫我省錢的?
我們的伺服器會在系統/預設前綴、角色卡與歷史聊天紀錄加上快取斷點,讓上游廠商在後續每一輪重複使用這些 Token,並享有 90%~95% 的費率折扣。以 Claude Opus 5.5 在 32k 上下文聊 50 輪(約 160 萬輸入與 2 萬輸出 Tokens)為例,開啟快取能將總花費從約 $4.76 大幅降到約 $1.03。
要怎麼領取 $0.30 免費試用額度?可以用在哪些模型?
新帳號只要完成電子郵件驗證,或直接使用已驗證的 Google、Discord 帳號登入,系統就會自動發放 $0.30 美金的免費試用額度。你可以立即將試用額度用於 Gemini 3.8 Flash(gemini-3.8-flash)與 Gemini 4 Argon(gemini-4-argon)。