标签1 款工具
提示缓存 免费 AI 工具
浏览 1 款与 提示缓存 相关的免费与 Freemium AI 工具。
提示缓存 免费 AI 工具
探索标记为 提示缓存 的最佳免费 AI 工具 —— 全部附有免费额度或免费方案。
Millwright 是一个开源、自托管的 LLM 路由器，根据策略将 AI 请求路由到成本最低的模型提供商，同时保留提示缓存并控制支出。
提示缓存 AI 工具能做什么？
标记为 提示缓存 的 AI 工具最常见的使用场景。
通过将请求路由到满足策略要求的最便宜模型来降低 LLM 成本通过保持提供商/模型亲和性来维持会话期间的提示缓存重用在不更改应用程序代码的情况下切换提供商通过响应头和分类账条目检查和审计路由决策
提示缓存 AI 工具的主要功能
标记为 提示缓存 的 AI 工具中最常提供的功能。
通过任务和风险头进行策略控制路由缓存感知并发，为廉价、中等和前沿角色维护独立的亲和性通道通过分类账、CLI 命令和管理 API 进行支出跟踪和成本分析支持 OpenAI Chat Completions、Anthropic Messages 和 Amazon Bedrock 的提供商和协议作为单个 Rust 二进制文件自托管，支持 Docker；提供商凭据保留在您的基础设施中
提示缓存 的 AI 工具分类
标记为 提示缓存 的 AI 工具分类于以下类别。
所有“提示缓存”标签工具
Millwright 是一个开源、自托管的 LLM 路由器，根据策略将 AI 请求路由到成本最低的模型提供商，同时保留提示缓存并控制支出。
提示缓存 免费 AI 工具常见问题
浏览 1 款与 提示缓存 相关的免费与 Freemium AI 工具。