Millwright
Millwright é um roteador LLM de código aberto e auto-hospedado que direciona solicitações de IA para os provedores de modelo de menor custo com base em políticas, preservando caches de prompt e controlando gastos.
Millwright
O que é Millwright?
Millwright vs Ferramentas Similares
| Modelo de Preços | Grátis | Grátis | Grátis | Grátis |
| Créditos Grátis | ||||
| Principais recursos |
|
|
|
|
| Prós |
|
|
|
|
| Contras |
|
|
|
|
| Melhor para |
|
|
|
|
Como usar Millwright?
- 1git clone https://github.com/Northwood-Systems/millwright.git
- 2cd millwright
- 3cargo install --path . --locked
- 4millwright init
- 5millwright serve
- 6Alternativamente, para uma demonstração local:
- 7make compose-up
- 8curl http://localhost:8080/v1/chat/completions -H 'Authorization: Bearer sk-millwright-local-demo' -H 'Content-Type: application/json' -d '{"model":"millwright-fast","messages":[{"role":"user","content":"Olá"}]}'
Millwright Principais recursos
- Roteamento controlado por políticas com cabeçalhos de tarefa e risco
- Concorrência ciente de cache mantendo vias de afinidade independentes para funções baratas, médias e de fronteira
- Rastreamento de gastos e análise de custos via ledger, comandos CLI e APIs de gerenciamento
- Suporte a provedores e protocolos para OpenAI Chat Completions, Anthropic Messages e Amazon Bedrock
- Auto-hospedagem como um único binário Rust com suporte a Docker; credenciais do provedor permanecem em sua infraestrutura
Millwright Casos de uso
- Reduzir custos de LLM roteando solicitações para o modelo mais barato que atenda aos requisitos de política
- Manter a reutilização do cache de prompt em uma sessão preservando a afinidade provedor/modelo
- Alternar entre provedores sem alterar o código da aplicação
- Inspecionar e auditar decisões de roteamento com cabeçalhos de resposta e entradas de ledger
Millwright Preços e créditos grátis
Millwright funciona no modelo Grátis.
Millwright Prós e contras
Prós
- Controle de custos usando modelos mais baratos e apropriados
- Preserva caches de prompt entre solicitações
- Independente de provedor; fácil de alternar sem alterações de código
- Totalmente auto-hospedado; dados e credenciais permanecem em sua infraestrutura
- Decisões de roteamento inspecionáveis com registro detalhado
Contras
- Requer auto-hospedagem e configuração
- Limitado a protocolos suportados (OpenAI, Anthropic, Bedrock)
- Não é um orquestrador de agentes; sem inspeção ou reescrita de prompt
Para que Millwright é melhor?
- Equipes gerenciando custos de LLM
- Desenvolvedores que precisam de roteamento baseado em políticas
- Empresas que exigem privacidade auto-hospedada
Perguntas frequentes sobre Millwright
Alternativas gratuitas ao Millwright
Um IDE controlado por voz que permite aos desenvolvedores iniciar sessões de codificação com IA usando Codex ou Claude Code, aprovar comandos e revisar diffs pelo celular.
SureWire é uma plataforma de QA especializada que testa agentes de IA para segurança, confiabilidade e conformidade usando agentes de teste especialmente construídos.
Plataforma de infraestrutura de navegadores para agentes de IA executarem na internet em velocidade com sessões de navegador em nuvem, agentes e funções serverless.
Uma ferramenta de transferência de arquivos centrada em agentes que permite o compartilhamento seguro e criptografado de arquivos entre agentes de IA através de chamadas MCP, sem envolvimento humano.
Manifest converte qualquer URL em um mapa JSON estruturado do que agentes de IA podem interagir em uma página—botões, formulários, entradas e campos obrigatórios.
Um portal cooperativo para comandos de shell executados por agentes de IA, fornecendo prévias, backups, aplicação de políticas e auditoria para ferramentas como Claude Code e Cursor.
Agentcard oferece infraestrutura de emissão de cartões e pagamentos amigável para agentes, permitindo configuração em 5 minutos e compras autônomas.
Melhores alternativas de ferramentas IA ao Millwright
Uma coleção de servidores MCP deliberadamente vulneráveis para treinamento em segurança de agentes, mapeados para o OWASP Top 10 para Aplicações de Agentes.
Ferramenta de IA de código aberto para pesquisa profunda de infraestrutura, executando modelos de ponta em código, nuvem e runtime para fornecer respostas verificadas.
Magpie é um CLI de contabilidade opinativo para humanos e agentes de IA, fornecendo escrituração por partidas dobradas com RBAC e armazenamento imutável de eventos no Jaybase.
Interface de terminal para gerenciar sessões de agentes de codificação de IA (Claude Code, OpenCode, Codex, Grok Build) no tmux com status ao vivo, árvore de grupos e revisão de diffs.
Um IDE controlado por voz que permite aos desenvolvedores iniciar sessões de codificação com IA usando Codex ou Claude Code, aprovar comandos e revisar diffs pelo celular.
Catálogo de software em único binário e configuração zero com descoberta automática, visualização de dependências, scorecards de conformidade e integração nativa com MCP para agentes de IA.
Ferramenta de automação de navegador via CLI para agentes de IA, contornar bloqueios anti-bot, transferir para humanos e executar tarefas paralelas.
Um assistente de compras com IA que fornece um cursor ao vivo para guiar visitantes do site, apontar produtos e exibir cálculos de preços.