無料のAIオープンソースモデルツール

キャッシュ、フェイルオーバー、コスト追跡、およびローカルとクラウドのAIプロバイダー間のシームレスな統合のための軽量で高性能なLLMプロキシ。

Wolbargは、SQLiteまたはPostgreSQLを使用してAIエージェントに共有セマンティックメモリを提供する、ローカルファーストのTypeScript SDKです。

Java向け統合型、ゼロアロケーションのネイティブAI推論ランタイム。Project Panamaを介してLLM、ビジョン、音声パイプラインを統合。

Osaurusは、Mac上でオンデバイスでオープンモデルを実行するプライベートなローカルAIアシスタントで、オプションでクラウドAIアクセスと自律エージェントを備えています。

低価格CPUハードウェア向けに構築された、リーンで完全にテスト済みのLLM推論サーバー。永続的なキャッシュとOpenAI互換APIを備えています。

依存関係のないCエンジンで、ディスクからエキスパート重みをストリーミングし、わずか25GBのRAMで消費者向けハードウェア上で744BパラメータのGLM-5.2 MoEモデルを実行します。

Frugonは、コールログをローカルで分析し、LLMの費用漏れを特定する無料のオープンソースLLMコスト分析ツールです。

分岐のない、ゼロジッターのイングレスルーター。JAX/XLAとNCCLを利用した32GPU分散メッシュネットワーク向け。

Skeightsは、適合済みのscikit-learnモデルをsafetensorsとJSONにシリアライズし、安全で検査可能な形式で安全でないpickleを置き換えます。

Mac上でLM StudioやOllamaよりも高速に、チャット、コーディングエージェント、画像、動画、音声を完全オフラインかつオープンソースで動作させるLLM実行ツール。

キャッシュ、フェイルオーバー、コスト追跡、およびローカルとクラウドのAIプロバイダー間のシームレスな統合のための軽量で高性能なLLMプロキシ。

Wolbargは、SQLiteまたはPostgreSQLを使用してAIエージェントに共有セマンティックメモリを提供する、ローカルファーストのTypeScript SDKです。

Java向け統合型、ゼロアロケーションのネイティブAI推論ランタイム。Project Panamaを介してLLM、ビジョン、音声パイプラインを統合。

Osaurusは、Mac上でオンデバイスでオープンモデルを実行するプライベートなローカルAIアシスタントで、オプションでクラウドAIアクセスと自律エージェントを備えています。

低価格CPUハードウェア向けに構築された、リーンで完全にテスト済みのLLM推論サーバー。永続的なキャッシュとOpenAI互換APIを備えています。

依存関係のないCエンジンで、ディスクからエキスパート重みをストリーミングし、わずか25GBのRAMで消費者向けハードウェア上で744BパラメータのGLM-5.2 MoEモデルを実行します。

Frugonは、コールログをローカルで分析し、LLMの費用漏れを特定する無料のオープンソースLLMコスト分析ツールです。

分岐のない、ゼロジッターのイングレスルーター。JAX/XLAとNCCLを利用した32GPU分散メッシュネットワーク向け。

Skeightsは、適合済みのscikit-learnモデルをsafetensorsとJSONにシリアライズし、安全で検査可能な形式で安全でないpickleを置き換えます。

Mac上でLM StudioやOllamaよりも高速に、チャット、コーディングエージェント、画像、動画、音声を完全オフラインかつオープンソースで動作させるLLM実行ツール。

AXIOMは、ブート可能なRustカーネルで、汎用OSの抽象化を推論固有のプリミティブに置き換えることでトランスフォーマー推論を最適化します。

NanoEulerは、C/CUDAで完全にゼロから構築されたオープンソースのGPT-2スタイルの言語モデルで、手書きの逆伝播、BPEトークナイザー、FlashAttention、トレーニングパイプラインを備えています。

SetFitとSBERT埋め込みに基づく、50以上の言語をサポートする自動エンドツーエンド少数ショットテキスト分類パイプライン。

Oxlo.aiは、プライバシー第一のAI推論APIで、45以上のオープンソースモデルに対してリクエストベースの料金を提供しています。

PII GUIは、正規表現とデバイス上のONNXモデルを使用してドキュメント内の個人情報を検出および墨消しする、ローカルファーストのデスクトップアプリケーションです。

Go言語ネイティブのフレームワークで、AIエージェントの構築、オーケストレーション、監視を実現。ネイティブのOpenTelemetry可観測性とセルフホスト型ダッシュボードを備えています。

Ollamaは、大規模言語モデルをローカルで実行し、クラウドにスケールアップできるプラットフォームです。並列リクエストやリアルタイムのWeb情報を活用し、より高速で大規模なモデルを利用できます。

Janは、オープンソースでローカル優先のAIチャットアプリであり、プライベートなChatGPTの代替として機能します。

ブラウザベースのツールで、デバイスの性能に基づいて、あなたのマシンでどのローカルAIモデルを実行できるかを推定します。

Fireworks AIは、高速な推論、モデルホスティング、ファインチューニング、およびオープンモデルのスケーラブルなデプロイメントを提供する生成AIプラットフォームです。

PixaryAIは、テキストプロンプトや画像から動画を作成できるオンラインAI動画生成ツールで、ブラウザベースの操作に対応しています。

キャッシュ、フェイルオーバー、コスト追跡、およびローカルとクラウドのAIプロバイダー間のシームレスな統合のための軽量で高性能なLLMプロキシ。

Wolbargは、SQLiteまたはPostgreSQLを使用してAIエージェントに共有セマンティックメモリを提供する、ローカルファーストのTypeScript SDKです。

Java向け統合型、ゼロアロケーションのネイティブAI推論ランタイム。Project Panamaを介してLLM、ビジョン、音声パイプラインを統合。