Millwright
Millwright è un router LLM open-source auto-ospitato che instrada le richieste AI ai fornitori di modelli più economici in base alle policy, preservando le cache dei prompt e controllando la spesa.
Millwright
Cos’è Millwright?
Millwright vs Strumenti Simili
| Modello di Prezzo | Gratis | Gratis | Gratis | Gratis |
| Crediti Gratuiti | ||||
| Funzioni principali |
|
|
|
|
| Pro |
|
|
|
|
| Contro |
|
|
|
|
| Ideale per |
|
|
|
|
Come usare Millwright?
- 1git clone https://github.com/Northwood-Systems/millwright.git
- 2cd millwright
- 3cargo install --path . --locked
- 4millwright init
- 5millwright serve
- 6In alternativa, per una demo locale:
- 7make compose-up
- 8curl http://localhost:8080/v1/chat/completions -H 'Authorization: Bearer sk-millwright-local-demo' -H 'Content-Type: application/json' -d '{"model":"millwright-fast","messages":[{"role":"user","content":"Ciao"}]}'
Millwright Funzioni principali
- Instradamento controllato da policy con intestazioni di attività e rischio
- Concorrenza consapevole della cache che mantiene corsie di affinità indipendenti per ruoli economici, medi e di frontiera
- Tracciamento della spesa e analisi dei costi tramite registro, comandi CLI e API di gestione
- Supporto per provider e protocolli: OpenAI Chat Completions, Anthropic Messages e Amazon Bedrock
- Auto-hosting come singolo binario Rust con supporto Docker; le credenziali del provider rimangono sulla tua infrastruttura
Millwright Casi d’uso
- Ridurre i costi LLM instradando le richieste al modello più economico che soddisfa i requisiti delle policy
- Mantenere il riutilizzo della cache dei prompt durante una sessione preservando l'affinità provider/modello
- Cambiare provider senza modificare il codice dell'applicazione
- Ispezionare e verificare le decisioni di instradamento con intestazioni di risposta e voci di registro
Millwright Prezzi e crediti gratuiti
Millwright usa un modello Gratis.
Millwright Pro e contro
Pro
- Controllo dei costi utilizzando i modelli appropriati più economici
- Preserva le cache dei prompt tra le richieste
- Indipendente dal provider; facile cambiare senza modifiche al codice
- Completamente auto-ospitato; dati e credenziali rimangono sulla tua infrastruttura
- Decisioni di instradamento ispezionabili con registrazione dettagliata
Contro
- Richiede auto-hosting e configurazione
- Limitato ai protocolli supportati (OpenAI, Anthropic, Bedrock)
- Non è un orchestratore di agenti; nessuna ispezione o riscrittura dei prompt
Per cosa è più adatto Millwright?
- Team che gestiscono i costi LLM
- Sviluppatori che necessitano di instradamento basato su policy
- Aziende che richiedono privacy auto-ospitata
Domande frequenti su Millwright
Alternative gratuite a Millwright
Un IDE a comando vocale che consente agli sviluppatori di avviare sessioni di codifica AI con Codex o Claude Code, approvare comandi e rivedere i diff dal proprio telefono.
SureWire è una piattaforma QA specializzata che sottopone a stress test gli agenti AI per sicurezza, affidabilità e conformità utilizzando agenti di test appositamente creati.
Piattaforma di infrastruttura browser per agenti AI per operare su internet in velocità con sessioni browser cloud, agenti e funzioni serverless.
Uno strumento di trasferimento file incentrato sugli agenti che consente la condivisione sicura e crittografata di file tra agenti AI tramite chiamate MCP senza coinvolgimento umano.
Manifest converte qualsiasi URL in una mappa JSON strutturata di ciò con cui gli agenti AI possono interagire su una pagina: pulsanti, moduli, input e campi obbligatori.
Un gate cooperativo per comandi shell eseguiti da agenti AI, che fornisce anteprime, backup, applicazione delle policy e audit per strumenti come Claude Code e Cursor.
Agentcard fornisce un'infrastruttura di emissione carte e pagamenti adatta agli agenti AI, consentendo una configurazione in 5 minuti e acquisti autonomi.
Migliori alternative AI a Millwright
Una collezione di server MCP deliberatamente vulnerabili per l'addestramento nella sicurezza agentica, mappati nella OWASP Top 10 per Applicazioni Agentiche.
Strumento AI open-source per la ricerca approfondita sull'infrastruttura, che esegue modelli all'avanguardia su codice, cloud e runtime per fornire risposte verificate.
Magpie è un CLI contabile opinionato per umani e agenti AI, che fornisce contabilità a partita doppia con RBAC e archiviazione immutabile degli eventi su Jaybase.
Interfaccia utente da terminale per gestire sessioni di agenti di codifica AI (Claude Code, OpenCode, Codex, Grok Build) in tmux con stato in tempo reale, albero di gruppi e revisione delle differenze.
Un IDE a comando vocale che consente agli sviluppatori di avviare sessioni di codifica AI con Codex o Claude Code, approvare comandi e rivedere i diff dal proprio telefono.
Catalogo software a configurazione zero, binario singolo, con rilevamento automatico, visualizzazione delle dipendenze, punteggi di conformità e integrazione nativa MCP per agenti AI.
CLI di automazione browser per agenti AI per bypassare i muri anti-bot, passare il controllo agli umani ed eseguire compiti paralleli.
Un assistente agli acquisti basato su AI che fornisce un cursore live per guidare i visitatori del sito, indicare i prodotti e mostrare i calcoli dei prezzi.