標籤1 款工具
提示快取 免費 AI 工具
瀏覽 1 款與 提示快取 相關的免費與 Freemium AI 工具。
提示快取 免費 AI 工具
探索標記為 提示快取 的最佳免費 AI 工具 —— 全部附有免費額度或免費方案。
Millwright 是一個開源、自託管的 LLM 路由器，根據政策將 AI 請求路由至成本最低的模型提供者，同時保留提示快取並控管花費。
提示快取 AI 工具能做什麼？
標記為 提示快取 的 AI 工具最常見的使用情境。
透過將請求路由至符合政策要求的最便宜模型來降低 LLM 成本透過保留提供者/模型親和性，維持工作階段中的提示快取重複使用在不變更應用程式程式碼的情況下切換提供者透過回應標頭和分類帳條目檢查與稽核路由決策
提示快取 AI 工具的主要功能
標記為 提示快取 的 AI 工具中最常提供的功能。
基於政策的路由，支援任務與風險標頭快取感知並發，為便宜、中等與前沿角色維持獨立親和性通道透過分類帳、CLI 指令及管理 API 進行花費追蹤與成本分析支援 OpenAI Chat Completions、Anthropic Messages 及 Amazon Bedrock 提供者與協定以單一 Rust 二進位檔自託管，支援 Docker；提供者憑證保留在你的基礎設施上
提示快取 的 AI 工具分類
標記為 提示快取 的 AI 工具分類於以下類別。
所有「提示快取」標籤工具
Millwright 是一個開源、自託管的 LLM 路由器，根據政策將 AI 請求路由至成本最低的模型提供者，同時保留提示快取並控管花費。
提示快取 免費 AI 工具常見問題
瀏覽 1 款與 提示快取 相關的免費與 Freemium AI 工具。