Millwright
Millwright is een open-source, zelf-gehoste LLM-router die AI-verzoeken routeert naar de goedkoopste modelproviders op basis van beleid, waarbij promptcaches worden behouden en uitgaven worden beheerd.
Millwright
Wat is Millwright?
Millwright vs Vergelijkbare Tools
| Prijsmodel | Gratis | Aangepaste prijzen | Betaald | Gratis |
| Gratis Credits | ||||
| Belangrijkste functies |
|
|
|
|
| Voordelen |
|
|
|
|
| Nadelen |
|
|
|
|
| Geschikt voor |
|
|
|
|
Hoe gebruik je Millwright?
- 1git clone https://github.com/Northwood-Systems/millwright.git
- 2cd millwright
- 3cargo install --path . --locked
- 4millwright init
- 5millwright serve
- 6Of voor een lokale demo:
- 7make compose-up
- 8curl http://localhost:8080/v1/chat/completions -H 'Authorization: Bearer sk-millwright-local-demo' -H 'Content-Type: application/json' -d '{"model":"millwright-fast","messages":[{"role":"user","content":"Hallo"}]}'
Millwright Belangrijkste functies
- Beleidsgestuurde routering met taak- en risicokoppen
- Cache-bewuste gelijktijdigheid met onafhankelijke affiniteitsbanen voor goedkope, midden- en frontierrollen
- Uitgavenregistratie en kostenanalyse via ledger, CLI-commando's en beheer-API's
- Provider- en protocolondersteuning voor OpenAI Chat Completions, Anthropic Messages en Amazon Bedrock
- Zelfhosting als een enkele Rust-binary met Docker-ondersteuning; providercredentials blijven op uw infrastructuur
Millwright Gebruikssituaties
- Verminder LLM-kosten door verzoeken te routeren naar het goedkoopste model dat voldoet aan beleidsvereisten
- Behoud promptcache-hergebruik gedurende een sessie door provider/model-affiniteit te behouden
- Wissel tussen providers zonder applicatiecode te wijzigen
- Inspecteer en controleer routeringsbeslissingen met reactiekoppen en ledgeritems
Millwright Prijzen en gratis credits
Millwright werkt met het model Gratis.
Deze tool is volledig gratis
Millwright Voor- en nadelen
Voordelen
- Kostenbeheer door goedkoopste geschikte modellen te gebruiken
- Behoudt promptcaches bij aanvragen
- Provider-onafhankelijk; eenvoudig te wisselen zonder codeaanpassingen
- Volledig zelfgehost; gegevens en credentials blijven op uw infrastructuur
- Inspecteerbare routeringsbeslissingen met gedetailleerde logboekregistratie
Nadelen
- Vereist zelfhosting en installatie
- Beperkt tot ondersteunde protocollen (OpenAI, Anthropic, Bedrock)
- Geen agentorkestrator; geen promptinspectie of -herschrijving
Waar is Millwright het meest geschikt voor?
- Teams die LLM-kosten beheren
- Ontwikkelaars die beleidsgestuurde routering nodig hebben
- Bedrijven die zelfgehoste privacy nodig hebben
Veelgestelde vragen over Millwright
Gratis alternatieven voor Millwright
Manifest converteert elke URL naar een gestructureerde JSON-kaart van interactieve elementen die AI-agenten kunnen gebruiken—knoppen, formulieren, invoervelden en verplichte velden.
Een coöperatieve poort voor shell-commando's die AI-agenten uitvoeren, met voorvertoningen, back-ups, beleidshandhaving en audit voor tools zoals Claude Code en Cursor.
Agentcard biedt agentvriendelijke kaartuitgifte en betaalinfrastructuur voor AI-agenten, met een opstelling in 5 minuten en autonome aankopen.
Oodle AI biedt agent-observeerbaarheid met snelle trace-zoekopdracht, S3-gebaseerde opslag en kant-en-klare inzichten om stille fouten in AI-agenten te detecteren.
Jacquard is een kleine programmeertaal ontworpen voor het uitvoeren, beoordelen en vertrouwen van programma's geschreven door machine-learning modellen en beoordeeld door mensen.
Autonoom beveiligingstestplatform dat toegangscontrolekwetsbaarheden in live AI-apps vindt en herstelt.
AI-gestuurde sociale luistertool die Reddit, X, LinkedIn en 10+ andere platforms monitort, vermeldingen filtert met AI en ze naar je stack stuurt via API, Slack of webhooks.
Beste AI-alternatieven voor Millwright
CartAI biedt een API en MCP-server om AI-agenten in te zetten die autonoom door webproperties navigeren en transacties voltooien zoals afrekenen, abonnementen en factuurbetalingen.
Een marktplaats voor het per week kopen en verkopen van GPU-uren, met directe liquiditeit en flexibele rekenkracht voor AI-workloads.
szr is een in Go gebouwde CLI-proxy die ruige terminaluitvoer reduceert voordat het een LLM-context bereikt, wat tokens bespaart en exitcodes behoudt.
CodeAlmanac is een levende wiki voor uw codebase, onderhouden door AI-codeeragenten, die beslissingen, workflows, invarianten en valkuilen vastlegt in platte markdown.
Stele biedt gedeeld geheugen voor AI-codeeragenten, registreert beslissingen, taken en lessen om context te behouden tussen tools en sessies.
Zelfgehoste netwerkmonitor die elk uur snelheidstests uitvoert, LAN-apparaten scant, logt naar SQLite en sarcastische AI-gegenereerde rapporten naar Telegram stuurt.
Een macOS menubalk-app die verbinding maakt met Stripe, GA4 en Google Search Console om realtime metrics te vieren met emoji-regen, geluiden en volledige-schermreacties.