Millwright
Millwrightは、オープンソースのセルフホスト型LLMルーターで、ポリシーに基づいてAIリクエストを最も低コストのモデルプロバイダーにルーティングし、プロンプトキャッシュを保持し、支出を制御します。
Millwright
Millwrightとは
Millwrightと類似AIツールの比較
| 料金モデル | 無料 | カスタム料金 | 有料 | 無料 |
| 無料クレジット | ||||
| 主な機能 |
|
|
|
|
| メリット |
|
|
|
|
| 注意点 |
|
|
|
|
| おすすめの人 |
|
|
|
|
Millwrightの使い方
- 1git clone https://github.com/Northwood-Systems/millwright.git
- 2cd millwright
- 3cargo install --path . --locked
- 4millwright init
- 5millwright serve
- 6または、ローカルデモの場合：
- 7make compose-up
- 8curl http://localhost:8080/v1/chat/completions -H 'Authorization: Bearer sk-millwright-local-demo' -H 'Content-Type: application/json' -d '{"model":"millwright-fast","messages":[{"role":"user","content":"Hello"}]}'
Millwrightの主な機能
- タスクとリスクヘッダーによるポリシーベースのルーティング
- キャッシュ対応の同時実行性：安価、中級、最先端の役割ごとに独立した親和性レーンを維持
- 台帳、CLIコマンド、管理APIによる支出追跡とコスト分析
- OpenAI Chat Completions、Anthropic Messages、Amazon Bedrockのプロトコルサポート
- 単一のRustバイナリとしてのセルフホスティングとDockerサポート；プロバイダーの認証情報はインフラ上に保持
Millwrightのユースケース
- ポリシー要件を満たす最も安価なモデルにリクエストをルーティングしてLLMコストを削減
- プロバイダー/モデルの親和性を維持することでセッション全体でプロンプトキャッシュを再利用
- アプリケーションコードを変更せずにプロバイダーを切り替え
- 応答ヘッダーと台帳エントリでルーティング決定を検査・監査
Millwrightの料金と無料枠
Millwright の料金モデルは 無料 です。
このツールは完全に無料で利用できます
Millwrightのメリット・注意点
メリット
- 最も安価な適切なモデルを使用してコストを制御
- リクエスト間でプロンプトキャッシュを維持
- プロバイダーに依存せず、コード変更なしで簡単に切り替え可能
- 完全にセルフホスト；データと認証情報はインフラ上に残る
- 詳細なログでルーティング決定を検査可能
注意点
- セルフホスティングとセットアップが必要
- サポートされるプロトコル（OpenAI、Anthropic、Bedrock）に限定
- エージェントオーケストレーターではない；プロンプトの検査や書き換えは行わない
Millwright はどんな用途に向いていますか？
- LLMコストを管理するチーム
- ポリシーベースのルーティングを必要とする開発者
- セルフホストのプライバシーを求める企業
Millwrightのよくある質問
Millwright の無料代替ツール
Manifestは、任意のURLを、AIエージェントがページ上で操作できるボタン、フォーム、入力フィールド、必須項目などの構造化されたJSONマップに変換します。
AIエージェントが実行するシェルコマンドの協調ゲートで、Claude CodeやCursorなどのツールにプレビュー、バックアップ、ポリシー適用、監査を提供します。
Agentcardは、AIエージェント向けにエージェントフレンドリーなカード発行と決済インフラを提供し、5分でのセットアップと自律的な購入を可能にします。
Oodle AIは、高速トレース検索、S3ベースのストレージ、そしてAIエージェントのサイレント障害を検出するためのすぐに使えるインサイトを提供するエージェント可観測性ツールです。
Jacquardは、機械学習モデルによって記述され、人々によってレビューされるプログラムを実行、レビュー、信頼するために設計された小さなプログラミング言語です。
AI搭載のソーシャルリスニングツール。Reddit、X、LinkedInなど10以上のプラットフォームを監視し、AIでメンションをフィルタリングし、API、Slack、Webhook経由でスタックに配信します。
Millwright の代替AIツール
CartAIは、AIエージェントが自律的にWebプロパティをナビゲートし、チェックアウト、サブスクリプション、請求書支払いなどの取引を完了するためのAPIとMCPサーバーを提供します。
szrは、GoネイティブのCLIプロキシで、LLMのコンテキストに到達する前にノイズの多いターミナル出力を削減し、トークンを節約し、コマンドの終了コードを保持します。
CodeAlmanacは、AIコーディングエージェントによって維持されるコードベースの生きたWikiであり、決定事項、フロー、不変条件、注意点をプレーンマークダウンで取得します。
自己ホスト型ネットワークモニターで、毎時スピードテストとLANデバイススキャンを実行し、SQLiteにログを記録し、Telegramに皮肉なAI生成レポートを配信します。
macOSメニューバーアプリで、Stripe、GA4、Google Search Consoleに接続し、絵文字の雨やサウンド、フルスクリーンリアクションでリアルタイムメトリクスを祝います。