Millwright
Millwright est un routeur LLM open-source et auto-hébergé qui achemine les requêtes IA vers les fournisseurs de modèles les moins chers en fonction de politiques, préservant les caches de prompts et contrôlant les dépenses.
Millwright
Qu’est-ce que Millwright?
Millwright vs Outils Similaires
| Modèle de Tarification | Gratuit | Gratuit | Gratuit | Gratuit |
| Crédits Gratuits | ||||
| Fonctionnalités clés |
|
|
|
|
| Avantages |
|
|
|
|
| Limites |
|
|
|
|
| Idéal pour |
|
|
|
|
Comment utiliser Millwright?
- 1git clone https://github.com/Northwood-Systems/millwright.git
- 2cd millwright
- 3cargo install --path . --locked
- 4millwright init
- 5millwright serve
- 6Alternativement, pour une démo locale :
- 7make compose-up
- 8curl http://localhost:8080/v1/chat/completions -H 'Authorization: Bearer sk-millwright-local-demo' -H 'Content-Type: application/json' -d '{"model":"millwright-fast","messages":[{"role":"user","content":"Hello"}]}'
Millwright Fonctionnalités clés
- Acheminement contrôlé par politique avec en-têtes de tâche et de risque
- Concurrence sensible au cache maintenant des voies d'affinité indépendantes pour les rôles bon marché, intermédiaire et frontalier
- Suivi des dépenses et analyse des coûts via un registre, des commandes CLI et des API de gestion
- Prise en charge des fournisseurs et protocoles pour OpenAI Chat Completions, Anthropic Messages et Amazon Bedrock
- Auto-hébergement comme un binaire Rust unique avec support Docker ; les informations d'identification du fournisseur restent sur votre infrastructure
Millwright Cas d’usage
- Réduire les coûts LLM en acheminant les requêtes vers le modèle le moins cher répondant aux exigences de la politique
- Maintenir la réutilisation du cache de prompts au cours d'une session en préservant l'affinité fournisseur/modèle
- Changer de fournisseur sans modifier le code de l'application
- Inspecter et auditer les décisions d'acheminement avec les en-têtes de réponse et les entrées du registre
Millwright Tarifs et crédits gratuits
Millwright fonctionne avec le modèle Gratuit.
Millwright Avantages et limites
Avantages
- Contrôle des coûts en utilisant les modèles appropriés les moins chers
- Préserve les caches de prompts entre les requêtes
- Indépendant du fournisseur ; facile à changer sans modification de code
- Entièrement auto-hébergé ; données et identifiants restent sur votre infrastructure
- Décisions d'acheminement inspectables avec une journalisation détaillée
Limites
- Nécessite auto-hébergement et configuration
- Limité aux protocoles supportés (OpenAI, Anthropic, Bedrock)
- Pas un orchestrateur d'agents ; aucune inspection ou réécriture de prompts
À quoi Millwright convient-il le mieux ?
- Équipes gérant les coûts LLM
- Développeurs ayant besoin d'un routage basé sur des politiques
- Entreprises nécessitant la confidentialité de l'auto-hébergement
Questions fréquentes sur Millwright
Alternatives gratuites à Millwright
Un IDE vocal qui permet aux développeurs de lancer des sessions de codage IA avec Codex ou Claude Code, d'approuver des commandes et de réviser les diffs depuis leur téléphone.
SureWire est une plateforme QA spécialisée qui teste sous contrainte les agents IA pour la sécurité, la fiabilité et la conformité en utilisant des agents de test dédiés.
Plateforme d'infrastructure de navigateur pour que les agents IA fonctionnent sur Internet à grande vitesse avec des sessions de navigateur cloud, des agents et des fonctions sans serveur.
Un outil de transfert de fichiers agent-first qui permet le partage sécurisé et chiffré de fichiers entre agents d'IA via des appels MCP sans intervention humaine.
Manifest convertit n'importe quelle URL en une carte JSON structurée de ce avec quoi les agents IA peuvent interagir sur une page : boutons, formulaires, champs de saisie et champs obligatoires.
Une porte coopérative pour les commandes shell exécutées par les agents IA, offrant des aperçus, des sauvegardes, l'application des politiques et un audit pour des outils comme Claude Code et Cursor.
Agentcard fournit une infrastructure de paiement et d'émission de cartes adaptée aux agents IA, permettant une configuration en 5 minutes et des achats autonomes.
Meilleures alternatives IA à Millwright
Une collection de serveurs MCP délibérément vulnérables pour la formation en sécurité agentique, cartographiés selon l'OWASP Top 10 pour les applications agentiques.
Outil IA open-source pour la recherche approfondie sur l'infrastructure, exécutant des modèles de pointe sur le code, le cloud et l'exécution pour fournir des réponses vérifiées.
Magpie est un CLI de comptabilité orienté pour les humains et les agents IA, offrant une tenue de livres en partie double avec RBAC et un stockage d'événements immuable sur Jaybase.
Interface terminal pour gérer des sessions d'agents de codage IA (Claude Code, OpenCode, Codex, Grok Build) dans tmux avec statut en direct, arborescence de groupes et révision des différences.
Un IDE vocal qui permet aux développeurs de lancer des sessions de codage IA avec Codex ou Claude Code, d'approuver des commandes et de réviser les diffs depuis leur téléphone.
Catalogue logiciel sans configuration, binaire unique avec découverte automatique, visualisation des dépendances, scorecards de conformité et intégration MCP native pour les agents IA.
CLI d'automatisation de navigateur pour agents IA, contournant les anti-bots, déléguant aux humains et exécutant des tâches parallèles.
Un assistant d'achat alimenté par l'IA qui fournit un curseur en direct pour guider les visiteurs du site, pointer les produits et afficher les calculs de prix.