Beste gratis tools voor AI Open Source Modellen

Een lichtgewicht, hoogpresterende LLM-proxy voor caching, failover, kostentracking en naadloze integratie tussen lokale en cloud-AI-providers.

Wolbarg is een lokale-first TypeScript SDK die gedeelde semantische geheugen voor AI-agenten biedt met SQLite of PostgreSQL.

Geünificeerde, nul-toewijzing native AI-inferentieruntime voor Java die LLM-, visie- en spraakpijplijnen consolideert via Project Panama.

Osaurus is een privé, lokale AI-assistent voor Mac die open modellen op het apparaat draait, met optionele cloud-AI-toegang en autonome agents.

Een slanke, volledig geteste LLM-inferentieserver gebouwd voor goedkope CPU-hardware, met persistente caching en een OpenAI-compatibele API.

Een afhankelijkheidsvrije C-engine die expertgewichten van schijf streamt om het GLM-5.2 MoE-model met 744 miljard parameters uit te voeren op consumentenhardware met slechts 25 GB RAM.

Frugon is een gratis, open-source LLM-kostenanalysator die identificeert waar uw LLM-rekening lekt door uw gesprekslogs lokaal te analyseren.

Een takvrije, zero-jitter ingressrouter voor 32-GPU gedistribueerde mesh-netwerken die gebruikmaken van JAX/XLA en NCCL.

Skeights serialiseert getrainde scikit-learn modellen naar safetensors en JSON, waarbij de onveilige pickle wordt vervangen door een veilig, inspecteerbaar formaat.

Voer elke LLM lokaal uit op uw Mac, sneller dan LM Studio of Ollama, met chat, codeeragents, afbeeldingen, video en spraak, volledig offline en open source.

Een lichtgewicht, hoogpresterende LLM-proxy voor caching, failover, kostentracking en naadloze integratie tussen lokale en cloud-AI-providers.

Wolbarg is een lokale-first TypeScript SDK die gedeelde semantische geheugen voor AI-agenten biedt met SQLite of PostgreSQL.

Geünificeerde, nul-toewijzing native AI-inferentieruntime voor Java die LLM-, visie- en spraakpijplijnen consolideert via Project Panama.

Osaurus is een privé, lokale AI-assistent voor Mac die open modellen op het apparaat draait, met optionele cloud-AI-toegang en autonome agents.

Een slanke, volledig geteste LLM-inferentieserver gebouwd voor goedkope CPU-hardware, met persistente caching en een OpenAI-compatibele API.

Een afhankelijkheidsvrije C-engine die expertgewichten van schijf streamt om het GLM-5.2 MoE-model met 744 miljard parameters uit te voeren op consumentenhardware met slechts 25 GB RAM.

Frugon is een gratis, open-source LLM-kostenanalysator die identificeert waar uw LLM-rekening lekt door uw gesprekslogs lokaal te analyseren.

Een takvrije, zero-jitter ingressrouter voor 32-GPU gedistribueerde mesh-netwerken die gebruikmaken van JAX/XLA en NCCL.

Skeights serialiseert getrainde scikit-learn modellen naar safetensors en JSON, waarbij de onveilige pickle wordt vervangen door een veilig, inspecteerbaar formaat.

Voer elke LLM lokaal uit op uw Mac, sneller dan LM Studio of Ollama, met chat, codeeragents, afbeeldingen, video en spraak, volledig offline en open source.

AXIOM is een opstartbare Rust-kernel die transformer-inferentie optimaliseert door generieke OS-abstractions te vervangen door inferentie-specifieke primitieven.

NanoEuler is een open-source GPT-2-achtig taalmodel volledig vanaf nul gebouwd in C/CUDA met handgeschreven backprop, BPE-tokenizer, FlashAttention en trainingspijplijnen.

Geautomatiseerde end-to-end few-shot tekstclassificatiepijplijn met ondersteuning voor 50+ talen, gebouwd op SetFit en SBERT-embeddings.

Oxlo.ai is een privacy-first AI-inferentie-API die prijzen per verzoek biedt voor meer dan 45 open-source modellen.

PII GUI is een lokale desktopapplicatie voor het detecteren en redigeren van persoonlijke informatie in documenten met behulp van regex en ONNX-modellen op het apparaat.

Een Go-native framework voor het bouwen, orkestreren en observeren van AI-agents met native OpenTelemetry-observeerbaarheid en een zelf-gehost dashboard.

Ollama is een platform om grote taalmodellen lokaal te draaien en op te schalen naar de cloud, met toegang tot snellere, grotere modellen met parallelle verzoeken en realtime webinformatie.

Jan is een open-source, local-first AI-chat-app die werkt als een privé ChatGPT-vervanging.

Een browsergebaseerde tool die schat welke lokale AI-modellen je machine kan draaien op basis van de mogelijkheden van je apparaat.

Fireworks AI is een generative AI-platform voor snelle inference, model hosting, fine-tuning en schaalbare deployment van open modellen.

PixaryAI is een online AI-videogenerator voor het maken van video's op basis van tekstprompts of afbeeldingen, met browsergebaseerde bediening.

Een lichtgewicht, hoogpresterende LLM-proxy voor caching, failover, kostentracking en naadloze integratie tussen lokale en cloud-AI-providers.

Wolbarg is een lokale-first TypeScript SDK die gedeelde semantische geheugen voor AI-agenten biedt met SQLite of PostgreSQL.

Geünificeerde, nul-toewijzing native AI-inferentieruntime voor Java die LLM-, visie- en spraakpijplijnen consolideert via Project Panama.