標籤2 款工具
AI路由 免費 AI 工具
瀏覽 2 款與 AI路由 相關的免費與 Freemium AI 工具。
AI路由 免費 AI 工具
探索標記為 AI路由 的最佳免費 AI 工具 —— 全部附有免費額度或免費方案。
Millwright 是一個開源、自託管的 LLM 路由器，根據政策將 AI 請求路由至成本最低的模型提供者，同時保留提示快取並控管花費。
AI路由 AI 工具能做什麼？
標記為 AI路由 的 AI 工具最常見的使用情境。
透過將請求路由至符合政策要求的最便宜模型來降低 LLM 成本透過保留提供者/模型親和性，維持工作階段中的提示快取重複使用在不變更應用程式程式碼的情況下切換提供者透過回應標頭和分類帳條目檢查與稽核路由決策將簡單查詢路由到快速的本地模型，將複雜任務路由到有能力的雲端模型通過在主端點降級時回退到更便宜的端點來優化成本跨多個AI提供商維護一致的路由合約
AI路由 AI 工具的主要功能
標記為 AI路由 的 AI 工具中最常提供的功能。
基於政策的路由，支援任務與風險標頭快取感知並發，為便宜、中等與前沿角色維持獨立親和性通道透過分類帳、CLI 指令及管理 API 進行花費追蹤與成本分析支援 OpenAI Chat Completions、Anthropic Messages 及 Amazon Bedrock 提供者與協定以單一 Rust 二進位檔自託管，支援 Docker；提供者憑證保留在你的基礎設施上基於任務類型、模態和工具需求的能力感知路由跨本地/本地、本地/雲端和雲端/雲端部署的混合路由包含硬拒絕、偏好、預算和打破平局規則的路由策略記錄決策、追蹤、使用情況和性能的可觀測性工藝品具有持久合約的開放協議，適用於請求、端點和策略
AI路由 的 AI 工具分類
標記為 AI路由 的 AI 工具分類於以下類別。
所有「AI路由」標籤工具
Millwright 是一個開源、自託管的 LLM 路由器，根據政策將 AI 請求路由至成本最低的模型提供者，同時保留提示快取並控管花費。
AI路由 免費 AI 工具常見問題
瀏覽 2 款與 AI路由 相關的免費與 Freemium AI 工具。