依複雜度路由
每個提示在 1 毫秒內分成 HIGH、MED、LOW。簡單問題送 Gemini Flash(每 token 最多便宜 97%);關鍵分析留在 GPT-4o 或 Claude Sonnet。沒有要維護的手動規則:生產引擎原生處理 14 種語言,模稜兩可的交給 L2 MiniLM 後備。
研究背書的路由引擎:每個請求在 1 毫秒內分類,送到真正合適的模型,而不是最貴的那個。輸出一樣、SLA 一樣;每 token 最多省 97%,真實帳單依工作負載省 30–75%。
✓ 30 分鐘內上線 ✓ 提示不儲存、不訓練 ✓ 出事一鍵退回原供應商
分類複雜度、保護品質、快取答案、自動學習。
每個提示在 1 毫秒內分成 HIGH、MED、LOW。簡單問題送 Gemini Flash(每 token 最多便宜 97%);關鍵分析留在 GPT-4o 或 Claude Sonnet。沒有要維護的手動規則:生產引擎原生處理 14 種語言,模稜兩可的交給 L2 MiniLM 後備。
法律、法遵、醫療類提示一律強制送 GPT-4o / Claude Sonnet。品質連續三天低於你設的門檻,全額退費。寫在合約裡,不是承諾。
「什麼是 API?」一天被問 200 次。同一個問題、同一個答案、零成本。全域知識快取做語意比對:錯字、換句話說、多語變體都命中,$0。
模稜兩可的提示(「幫我處理一下」「修一下」)進 AMBIG 佇列審核,每次解決都訓練引擎。引擎版本公開:v1.2(26 條規則,論文)→ v2.6.2(160 條,生產中)。你的省幅逐月累積。
我們把 8 種代表性工作負載跑過 v2.6.2 引擎。下面是實際看到的數字,包括省得少的產業。我們公開表現差的,因為誠實比行銷走得遠。
| 產業 | 帳單降幅 | 為什麼是這個幅度 |
|---|---|---|
| 金融科技客服 | 65–75% | 餘額、交易、KYC 查詢為主,幾乎全是 LOW 層流量 |
| 電商客服 | 60–72% | 訂單狀態、退貨、尺寸:同樣的問題大量重複 |
| 人資服務台 | 60–75% | 每個員工都問同樣的休假、福利、退休金問題 |
| 保險客服 | 55–68% | 保單查詢與理賠進度重複且簡單 |
| 行銷 / 內容工具 | 41–55% | 中階內容生成為主,LOW 與 HIGH 都少 |
| 教育科技 / 線上學習 | 38–52% | 混合問答與教學,複雜度分布寬 |
| B2B SaaS 內嵌 AI | 30–45% | 混合推理工作:分析、草擬、摘要 |
| 開發工具 / 程式生成 | 19–31% | 多數查詢真的需要推理,能優化的少 |
數字為 v2.6.2 引擎模擬工作負載對 GPT-4o 固定費率($5.00 / 百萬 token)基準。真實帳單取決於流量組成、重試策略與額外開銷。已發表的 v1.2 論文記錄基礎方法論;v2.6.2 產業基準即將發表。
真實比較,沒有行銷話術。Casca 是路由引擎,不是聚合器或觀測層,而且我們發表研究。
| 能力 | OpenRouter | Helicone | Portkey | Casca |
|---|---|---|---|---|
| 依請求複雜度自動路由 | — | — | 手動規則 | ✓ 原生 |
| 品質 SLA 含月退費 | — | — | — | ✓ 合約 |
| 公開技術論文 | — | — | — | ✓ Zenodo |
| 各產業省幅基準 | — | — | — | ✓ 8 個垂直 |
| 從真實流量自動學習 | — | — | — | ✓ Flywheel |
| 14 語原生分類 | 僅英文路由 | N/A | 有限 | ✓ 內建 |
| 跨客戶語意快取 | — | — | ✓ | ✓ + 隔離模式 |
| OpenAI SDK 相容(即插即用) | ✓ | ✓ | ✓ | ✓ 一行 |
| 旁路開關(≤ 5 秒回滾) | — | — | 設定檔 | ✓ 環境變數 |
比較依各家 2026 年 5 月公開文件。不同意?到 GitHub 開 issue,我們更新表格。
自助方案固定月費;或選成果計費,只在省下的錢超過訂閱費時才付。所有自備金鑰方案:金鑰不離開你的基礎設施,模型費用由 OpenAI / Anthropic / Google 直接向你收,Casca 只收路由費。
含 1,000 萬 token · 自備 API 金鑰 · 無超額,配額封頂
給創辦人在副專案或概念驗證上試 Casca。
含 1 億 token · 自備金鑰 · 超額 $0.10 / 百萬 token
給 A 輪 AI 原生新創,每月 $5K–$30K 花在 LLM。
含 5 億 token · 自備金鑰 · 超額 $0.05 / 百萬 token
給 A / B 輪團隊,每月 $30K–$80K 花在 LLM。路由費第一天就回本。
20 億 token · 或省下金額的 12% · 兩種付法
給中型團隊,每月 $80K–$300K 花在 LLM。固定或成果計費任選。
隨時切換
含 20 億 token,超額 $0.05 / 百萬 token。每月帳單可預測,採購好核、財務好算。
連接你供應商帳單的唯讀權限。我們以 GPT-4o 固定費率為基準驗證省下的錢,收 12%。下限 $0;上限選項 A 的 1.5 倍,絕不比固定方案貴。
一次整合,接上每家主要 LLM 供應商與可信的第二梯隊。新模型上市當天可用;OpenAI 改價,一鍵切換;新供應商在價格 / 品質上勝出,你立刻受惠。給不想把 AI 策略綁在單一供應商路線圖上的團隊。
預談費率 · 統一 DPA · 自動故障轉移 · 所有供應商一張發票
加購 +$499 / 月(Enterprise 內含) 加到 Scale 方案 →
給每月 $300K 以上花在 LLM 的團隊。成果計費 12–15%(量大更低)。Provider Pool 預設內含。客製 SLA、指定客戶經理、私有部署、代你與供應商談費率。
Casca 把約 60% 流量送到便宜模型,LLM 帳單降到約 $15K。加 Growth 方案:50 億 token × $0.05 + $999 ≈ $1,250。Casca 總成本 $1,250 / 月,淨省 $33,750 / 月,ROI 27:1。
其他產業比例不同,見上方誠實數學表。
最好的 SaaS 承諾不是綁約,是把取消做得毫無摩擦,客戶留下來是因為想留。白話版承諾如下。
使用 60 天後經驗證的帳單降幅不到 30%,退還試用期訂閱費。不問原因、不談判;每個客戶帳號一次。
從儀表板隨時取消。自助方案無年約、不用打電話給業務。服務到當期結束;未用部分不退。CASCA_BYPASS=true 5 秒內把流量退回你的供應商。
隨時暫停 1–3 個月。期間零訂閱費、路由引擎停用(流量經旁路回供應商)、所有設定、金鑰、儀表板資料保留。90 天內隨時恢復,無罰則。
客觀指標、自動折抵,不用申訴、沒有主觀爭議:7 日滾動路由準確率 < 90%;旁路切換延遲 > 5 秒;p99 延遲連續三天 > 供應商基準 1.5 倍。Enterprise 客戶另有客製 MSA 與指定客戶績效承諾。
高接觸($50K+/月的團隊):寄 100 筆去識別化的真實請求,我們用 v2.6.2 引擎跑一遍,24 小時內回各層級省錢預估;不綁約、不用業務電話。自助:建立免費帳號,拿金鑰、換 base_url,30 分鐘內開始路由。
✓ 免費開始 ✓ 不用信用卡 ✓ 隨時取消 · 24 小時內回覆,直接回到創辦人