标签2 款工具
AI路由 免费 AI 工具
浏览 2 款与 AI路由 相关的免费与 Freemium AI 工具。
AI路由 免费 AI 工具
探索标记为 AI路由 的最佳免费 AI 工具 —— 全部附有免费额度或免费方案。
Millwright 是一个开源、自托管的 LLM 路由器，根据策略将 AI 请求路由到成本最低的模型提供商，同时保留提示缓存并控制支出。
AI路由 AI 工具能做什么？
标记为 AI路由 的 AI 工具最常见的使用场景。
通过将请求路由到满足策略要求的最便宜模型来降低 LLM 成本通过保持提供商/模型亲和性来维持会话期间的提示缓存重用在不更改应用程序代码的情况下切换提供商通过响应头和分类账条目检查和审计路由决策将简单查询路由到快速本地模型，复杂任务路由到强大云端模型通过在主端点降级时回退到更便宜的端点来优化成本在多个AI提供商之间保持一致的路由契约
AI路由 AI 工具的主要功能
标记为 AI路由 的 AI 工具中最常提供的功能。
通过任务和风险头进行策略控制路由缓存感知并发，为廉价、中等和前沿角色维护独立的亲和性通道通过分类账、CLI 命令和管理 API 进行支出跟踪和成本分析支持 OpenAI Chat Completions、Anthropic Messages 和 Amazon Bedrock 的提供商和协议作为单个 Rust 二进制文件自托管，支持 Docker；提供商凭据保留在您的基础设施中基于任务类型、模态和工具需求的能力感知路由跨本地/本地、本地/云端、云端/云端部署的混合路由包含硬拒绝、偏好、预算和决胜策略的路由策略记录决策、追踪、使用情况和性能的可观测性工件用于请求、端点和策略的具有持久契约的开放协议
AI路由 的 AI 工具分类
标记为 AI路由 的 AI 工具分类于以下类别。
所有“AI路由”标签工具
Millwright 是一个开源、自托管的 LLM 路由器，根据策略将 AI 请求路由到成本最低的模型提供商，同时保留提示缓存并控制支出。
AI路由 免费 AI 工具常见问题
浏览 2 款与 AI路由 相关的免费与 Freemium AI 工具。