每月300億token不夠用?DeepSeek快取架構讓成本從$4620降到$452

四個訂閱帳號仍不夠每月300億token?學會用DeepSeek第一方API與快取設計,把成本壓到最低,並掌握Agent調校與預算重組作法。

每個月要燒 300 億 token,同時又不想支付 ChatGPT 與 Claude 官方 API 費用,這是重度 AI Agent 使用者最常遇到的瓶頸。本文的結論是:不要再增加 Claude Max 或 ChatGPT Pro 帳號,而是把「規劃與驗收」和「大量執行」拆開,用 DeepSeek 第一方 API 的快取機制承接執行量。以下直接給出成本估算、可落地的架構、Agent 設計原則,以及預算重組建議。

為什麼四個訂閱帳號還是不夠?

300 億 token 已經不是「個人訂閱額度不足」,而是推論基礎設施與 Agent 架構問題。消費者訂閱的額度會受到 session、weekly cap、conversation length、model、effort level 與工具使用影響,官方也保留調整 cap 的權利;它不適合拿來當固定容量的推論後端。大量執行工作應移出消費者訂閱,改由可量化、可監控的 API 層承接。

每月 300 億 token 的真實成本

以 DeepSeek 第一方 API 為例,目前 V4 Flash 的計費單價如下:

項目 價格(每 1M token)
Cache miss input US$0.14
Cache hit input US$0.0028
Output US$0.28

Context caching 預設自動開啟,並支援 OpenAI、Anthropic API 格式與 Tool Calls。假設每月 300 億 token 中,90% 是 input、10% 是 output,推估成本為:

Cache 狀況 每月約略成本
完全沒有 cache US$4,620
80% input cache hit US$1,656
95% input cache hit US$1,101

Coding Agent 的 input 比例通常更高。若改成 98% input、2% output:

Cache 狀況 每月約略成本
完全沒有 cache US$4,284
80% input cache hit US$1,057
95% input cache hit US$452

因此,真正需要確認的不是「總 token」,而是下列指標:

prompt_cache_hit_tokens
prompt_cache_miss_tokens
completion_tokens
reasoning tokens
tool output tokens

社群公開的實際資料中,Coding Agent 的平均 cache ratio 約在 82%~93% 之間。這表示 Agent 顯示的數十億 raw tokens,大部分可能只是重複讀取已快取的 repo、工具定義與 conversation prefix,並不等於相同數量的完整推論成本。

最適合的架構:訂閱做判斷,API 做執行

Claude Max / ChatGPT Pro
        │
        ├── Architecture
        ├── Planning
        ├── Difficult debugging
        └── Final review
                 │
                 ▼
Claude Code Router 或 LiteLLM
                 │
        ┌────────┼─────────┐
        ▼        ▼         ▼
DeepSeek V4   GLM/Kimi   Local model
Flash         fallback   background

第一層:只保留兩個 frontier 訂閱

建議保留一個 Claude Max 負責複雜架構、長時間 coding 與困難除錯,以及一個 ChatGPT Pro 負責獨立審查、視覺、Browser 與第二意見。其他兩個重複帳號的 US$400 預算,應投入真正能量化、能監控 cache 的執行層。

第二層:DeepSeek 第一方 API 為主,OpenRouter 為輔

不要把 OpenRouter 當成 DeepSeek 的主要長期入口。OpenRouter 適合測試不同模型、臨時 fallback、比較 providers,以及需要 Zero Data Retention routing 的情境;但固定的長時間 coding session,直接連 DeepSeek 第一方 API 能減少 provider routing 變數,並取得目前確認過最低的 cache-hit input 價格。

若繼續使用 OpenRouter,必須固定 session_id,避免同一個 Agent session 被分配到不同 provider 而造成 cache 重建。OpenRouter 雖然支援 sticky routing,但手動指定 provider order 可能讓 sticky routing 失效。長 session 也應避免在 Flash、Pro 或不同 provider 間頻繁切換,因為切換模型可能分別建立兩份 cache,反而抵消低價模型帶來的節省。

第三層:只需要一個額外 coding subscription

目前值得考慮的選項有兩個:

  • GLM Coding Plan Max:月繳 US$160;年繳折算約 US$112/月,額度是 Lite 的 20 倍,支援 Claude Code 等多種 coding tools。適合當作 DeepSeek 無法完成時的第二模型、中大型 repo 規劃、Agentic coding,以及 DeepSeek implementation 的 reviewer。
  • Kimi Code Vivace:年繳折算約 US$159/月,使用 Kimi K2.7 Code,定位大型 repo 與高強度開發。可透過 CLI、VS Code 和第三方工具使用,但有 weekly quota 與 rolling five-hour limit,所有裝置和 API Key 共用同一份額度。

兩者選一即可,它們是品質 fallback,不是 300 億 token 的主要供應來源。

另外,OpenCode Go 是便宜的備援方案:每月 US$10,包含 five-hour allowance US$12、weekly allowance US$30、monthly allowance US$60。以 DeepSeek V4 Flash、90% input/10% output 粗略計算,US$60 約等於 3.9 億個未快取混合 token;要支撐 300 億 token,相當於約 77 份 monthly allowance。這代表它是高性價比的備援,但不是主力容量解法。

社群實際怎麼做?

Reddit 與 OpenCode 社群最常見的組合,不是「所有工作都交給最強模型」,而是:

  1. Claude/GLM/Kimi 制定詳細 implementation plan。
  2. DeepSeek Flash sub-agents 大量執行。
  3. 原始規劃模型最後 review。
  4. 只有失敗或複雜任務才升級模型。

長 session 使用 DeepSeek 時,社群建議直接使用第一方 API,並避免在不同模型、provider 之間頻繁切換。對於自架模型,社群普遍判斷是:只有 GPU 能長期維持約 60%~80% 以上利用率時,自架才比較容易超越 API 經濟性;閒置 GPU 通常比 serverless API 更貴。X 上雖然大量推廣各種 coding plan,但多數內容偏宣傳;這些服務全部仍有 quota、rolling limit 或服務容量限制,不能把 subscription 理解成真正 unlimited inference。

先調整 Agent 設計,再談更多額度

300 億 token 很可能來自 sub-agent 數量 × 每個 Agent 收到的完整 context × Agent turns × 每次重送的 tool output。例如:

10 個 agents
× 150,000 context tokens
× 20 turns
= 單一任務 3,000 萬 input tokens

建議直接採用以下限制:

  1. Sub-agent 不取得完整主對話,只取得 task brief、相關檔案、diff、測試結果。
  2. 每個任務先建立 repo map,不把整個 repo 重複塞入 context。
  3. System prompt、tool schema、rules、repo map 固定放在 prefix。
  4. 動態內容、最新 diff、錯誤訊息放在 prompt 最後。
  5. 同一工作階段不得切換 provider 或任意重排 tools。
  6. Sub-agent 預設最多 8~12 turns。
  7. 連續兩次測試失敗才升級至 GLM、Kimi、Claude 或 ChatGPT。
  8. 禁止 Agent 把完整 build log、node_modules、lockfile、generated code 反覆送回模型。
  9. 每次任務記錄 cache-hit、cache-miss、output 與失敗重試 token。
  10. Cache hit 低於 80% 時停止增加流量,先修正 prompt ordering。

Claude Code Router 可統一管理 Claude Code、Codex、OpenCode、Kimi CLI 與不同 provider;LiteLLM 則適合作為中央 gateway、成本追蹤、fallback 與 routing 層。兩者都是開源方案。

Self-host 是否值得?

300 億 token/月相當於平均約 11,574 token/秒的總流量。單臺 RTX 4090、5090 或 Mac Studio 不可能承擔這種總量;即使 raw token 大多是 input,仍需要高吞吐 batching、prefix caching 與多 GPU serving。

Self-host 比較合理的用途是:

  • Repo map 生成
  • 文件摘要
  • Log classification
  • 測試案例生成
  • Lint/formatting 修正
  • 簡單 CRUD
  • 重複性 code migration
  • Embedding 與 reranking

可使用 27B~35B 級模型搭配 vLLM 或 SGLang。兩者都支援 continuous batching、prefix caching、quantization;SGLang 另外提供 RadixAttention。不建議為了取代 DeepSeek 自行建立大型 GPU cluster,因為第一方 API 已把 cache input 與 output 價格壓得很低;在沒有既有 GPU、機房與高利用率負載的情況下,很難靠購買硬體擊敗這個價格。

建議預算重組

假設目前每月固定支出約 US$800,較合理的配置如下:

方案 A:以 GLM 為 fallback

項目 月成本
Claude Max × 1 US$200
ChatGPT Pro × 1 US$200
GLM Coding Max 年繳折算 US$112
OpenCode Go US$10
DeepSeek 第一方 API 預算 US$278
合計 US$800

方案 B:以 Kimi 為 fallback

項目 月成本
Claude Max × 1 US$200
ChatGPT Pro × 1 US$200
Kimi Vivace 年繳折算 US$159
OpenCode Go US$10
DeepSeek 第一方 API 預算 US$231
合計 US$800

在 cache hit 達到 95%、input 比例接近 98% 的情況下,DeepSeek 每月 300 億 raw tokens 的推算成本約 US$452。此時你的總成本約 US$850~1,000,而不是繼續增加到六個或八個 consumer accounts。

沒有「免費 hack」

以下方法不是可持續方案:

  • 大量建立帳號輪替 quota
  • 擷取或轉售 consumer OAuth/session token
  • 共享訂閱帳號
  • VPN/地區價格套利
  • 自動輪替 free-tier accounts
  • 利用學生、教育或試用帳號作商業推論
  • 把 consumer web subscription 包裝成未授權 API

OpenAI 與 Anthropic 的條款都禁止繞過 rate limits、restrictions、usage limits 或 protective measures。這類方法除了封號風險,也會讓 cache、帳務、程式碼隱私與服務穩定性完全不可控。

真正有效的 workaround 是:利用訂閱方案處理高價值判斷,利用 DeepSeek 第一方 cache 處理大量執行,再用嚴格 context engineering 把 300 億 raw tokens 轉換成少量 cache-miss 與 output tokens。

結論

不要再繼續增加 consumer 訂閱帳號。保留兩個 frontier subscription 做規劃與驗收,大量執行走 DeepSeek 第一方 API,並把 cache hit 提升到 90% 以上。先測量 cache metrics、修正 Agent context 設計,再視需要補一個 GLM/Kimi coding subscription 和 OpenCode Go 作為備援。這是精實預算下支撐每月 300 億 token 的可行路徑。