Millwright
Millwright, açık kaynaklı, kendinden barındırılan bir LLM yönlendiricisidir. Politikaya göre AI isteklerini en düşük maliyetli model sağlayıcılara yönlendirir, istem önbelleklerini korur ve harcamayı kontrol eder.
Millwright
Nedir Millwright?
Millwright vs Benzer Araçlar
| Fiyatlandırma Modeli | Ücretsiz | Özel fiyatlandırma | Ücretli | Ücretsiz |
| Ücretsiz Krediler | ||||
| Temel özellikler |
|
|
|
|
| Artılar |
|
|
|
|
| Eksiler |
|
|
|
|
| Kimler için uygun |
|
|
|
|
Nasıl kullanılır Millwright?
- 1git clone https://github.com/Northwood-Systems/millwright.git
- 2cd millwright
- 3cargo install --path . --locked
- 4millwright init
- 5millwright serve
- 6Alternatif olarak, yerel bir demo için:
- 7make compose-up
- 8curl http://localhost:8080/v1/chat/completions -H 'Authorization: Bearer sk-millwright-local-demo' -H 'Content-Type: application/json' -d '{"model":"millwright-fast","messages":[{"role":"user","content":"Merhaba"}]}'
Millwright Temel özellikler
- Görev ve risk başlıklarıyla politika kontrollü yönlendirme
- Ucuz, orta ve uç roller için bağımsız uyumluluk hatlarını koruyan önbellek bilincinde eşzamanlılık
- Defter, CLI komutları ve yönetim API'leri aracılığıyla harcama takibi ve maliyet analizi
- OpenAI Chat Completions, Anthropic Messages ve Amazon Bedrock için sağlayıcı ve protokol desteği
- Tek bir Rust ikili dosyası olarak kendi kendine barındırma (Docker desteği ile); sağlayıcı kimlik bilgileri altyapınızda kalır
Millwright Kullanım senaryoları
- İstekleri politika gereksinimlerini karşılayan en ucuz modele yönlendirerek LLM maliyetlerini azaltma
- Sağlayıcı/model uyumluluğunu koruyarak bir oturum boyunca istem önbelleği tekrar kullanımını sağlama
- Uygulama kodunu değiştirmeden sağlayıcılar arasında geçiş yapma
- Yanıt başlıkları ve defter girişleri ile yönlendirme kararlarını inceleme ve denetleme
Millwright Fiyatlar ve ücretsiz krediler
Millwright, Ücretsiz modeliyle çalışır.
Millwright Artılar ve eksiler
Artılar
- En uygun ucuz modelleri kullanarak maliyet kontrolü
- İstekler arasında istem önbelleklerini korur
- Sağlayıcıdan bağımsız; kod değişikliği olmadan geçiş kolaylığı
- Tamamen kendi kendine barındırılır; veri ve kimlik bilgileri altyapınızda kalır
- Ayrıntılı günlükleme ile incelenebilir yönlendirme kararları
Eksiler
- Kendi kendine barındırma ve kurulum gerektirir
- Desteklenen protokollerle sınırlıdır (OpenAI, Anthropic, Bedrock)
- Ajan orkestratörü değildir; istem incelemesi veya yeniden yazma yapmaz
Millwright en çok ne için uygundur?
- LLM maliyetlerini yöneten ekipler
- Politika tabanlı yönlendirmeye ihtiyaç duyan geliştiriciler
- Kendi kendine barındırılan gizlilik gerektiren kuruluşlar
Millwright hakkında SSS
Millwright için ücretsiz alternatifler
Manifest, herhangi bir URL'yi, AI ajanlarının bir sayfada etkileşime girebileceği öğelerin (düğmeler, formlar, giriş alanları ve zorunlu alanlar) yapılandırılmış bir JSON haritasına dönüştürür.
AI ajanlarının çalıştırdığı kabuk komutları için işbirlikçi bir geçit; Claude Code ve Cursor gibi araçlar için önizlemeler, yedeklemeler, politika uygulama ve denetim sağlar.
Agentcard, yapay zeka ajanları için ajan dostu kart çıkarma ve ödeme altyapısı sağlar, 5 dakikada kurulum ve otonom satın almalar sunar.
Oodle AI, hızlı iz arama, S3 tabanlı depolama ve yapay zeka ajanlarında sessiz hataları tespit etmek için hazır içgörüler sunan ajan gözlemlenebilirliği sağlar.
Jacquard, makine öğrenimi modelleri tarafından yazılan ve insanlar tarafından incelenen programları çalıştırmak, incelemek ve güvenmek için tasarlanmış küçük bir programlama dilidir.
Canlı yapay zeka tabanlı uygulamalarda erişim kontrolü zafiyetlerini bulan ve düzelten otonom güvenlik test platformu.
AI destekli sosyal dinleme aracı; Reddit, X, LinkedIn ve 10'dan fazla platformu izler, AI ile bahisleri filtreler ve API, Slack veya webhooks aracılığıyla size iletir.
Millwright için en iyi AI alternatifleri
CartAI, web sitelerinde otonom olarak gezinip alışveriş, abonelik ve fatura ödemeleri gibi işlemleri tamamlayan AI ajanlarını dağıtmak için bir API ve MCP sunucusu sağlar.
Haftalık GPU saatlerinin alınıp satıldığı, anlık likidite ve AI iş yükleri için esnek hesaplama sunan bir pazar yeri.
szr, gürültülü terminal çıktısını bir LLM bağlamına ulaşmadan önce azaltan, token tasarrufu sağlayan ve komut çıkış kodlarını koruyan, Go ile yazılmış bir CLI proxy'sidir.
CodeAlmanac, kod tabanınız için yapay zeka kodlama ajanları tarafından bakımı yapılan, kararları, akışları, değişmezleri ve tuzakları düz markdown ile yakalayan canlı bir vikidir.
Stele, AI kodlama ajanları için paylaşılan bellek sağlar; kararları, görevleri ve dersleri kaydederek araçlar ve oturumlar arasında bağlamı korur.
Kendi barındırılan ağ monitörü, saatlik hız testleri yapar, LAN cihaz taraması yapar, SQLite'a kaydeder ve Telegram'a alaycı yapay zeka raporları gönderir.
Stripe, GA4 ve Google Search Console'a bağlanan ve gerçek zamanlı metrikleri emoji yağmuru, sesler ve tam ekran tepkilerle kutlayan bir macOS menü çubuğu uygulaması.