Beste gratis verktøy for AI Open Source Modeller

En lettvekts, høyytende LLM-proxy for bufring, failover, kostnadssporing og sømløs integrasjon mellom lokale og skybaserte AI-leverandører.

Wolbarg er et lokalførst TypeScript SDK som gir delt semantisk minne for AI-agenter ved bruk av SQLite eller PostgreSQL.

Enhetlig, null-allokeringsbasert innfødt AI-inferenskjøretid for Java, som konsoliderer LLM-, syn- og talepipelines via Project Panama.

Osaurus er en privat, lokal AI-assistent for Mac som kjører åpne modeller på enheten, med valgfri tilgang til sky-AI og autonome agenter.

En slank, fullt testet LLM-inferenstjener bygget for billig CPU-maskinvare, med vedvarende bufre og et OpenAI-kompatibelt API.

En uavhengig C-motor som strømmer ekspertvekter fra disk for å kjøre GLM-5.2 MoE-modellen med 744 milliarder parametere på forbruker maskinvare med så lite som 25 GB RAM.

Frugon er en gratis, åpen kildekode LLM-kostnadsanalysator som identifiserer hvor LLM-regningen lekker ved å analysere anropsloggene dine lokalt.

En grenløs, null jitter ingress-ruter for 32 GPU distribuerte mesh-nettverk som bruker JAX/XLA og NCCL.

Skeights serialiserer tilpassede scikit-learn-modeller til safetensors og JSON, og erstatter usikker pickle med et trygt, inspiserbart format.

Kjør enhver LLM lokalt på din Mac raskere enn LM Studio eller Ollama, med chat, kodeagenter, bilder, video og stemme, helt offline og åpen kildekode.

En lettvekts, høyytende LLM-proxy for bufring, failover, kostnadssporing og sømløs integrasjon mellom lokale og skybaserte AI-leverandører.

Wolbarg er et lokalførst TypeScript SDK som gir delt semantisk minne for AI-agenter ved bruk av SQLite eller PostgreSQL.

Enhetlig, null-allokeringsbasert innfødt AI-inferenskjøretid for Java, som konsoliderer LLM-, syn- og talepipelines via Project Panama.

Osaurus er en privat, lokal AI-assistent for Mac som kjører åpne modeller på enheten, med valgfri tilgang til sky-AI og autonome agenter.

En slank, fullt testet LLM-inferenstjener bygget for billig CPU-maskinvare, med vedvarende bufre og et OpenAI-kompatibelt API.

En uavhengig C-motor som strømmer ekspertvekter fra disk for å kjøre GLM-5.2 MoE-modellen med 744 milliarder parametere på forbruker maskinvare med så lite som 25 GB RAM.

Frugon er en gratis, åpen kildekode LLM-kostnadsanalysator som identifiserer hvor LLM-regningen lekker ved å analysere anropsloggene dine lokalt.

En grenløs, null jitter ingress-ruter for 32 GPU distribuerte mesh-nettverk som bruker JAX/XLA og NCCL.

Skeights serialiserer tilpassede scikit-learn-modeller til safetensors og JSON, og erstatter usikker pickle med et trygt, inspiserbart format.

Kjør enhver LLM lokalt på din Mac raskere enn LM Studio eller Ollama, med chat, kodeagenter, bilder, video og stemme, helt offline og åpen kildekode.

AXIOM er en oppstartbar Rust-kjerne som optimaliserer transformator-inferens ved å erstatte generiske OS-abstraksjoner med inferens-spesifikke primitiver.

NanoEuler er en åpen kildekode GPT-2-lignende språkmodell bygget helt fra bunnen av i C/CUDA med håndskrevet backprop, BPE-tokenisering, FlashAttention og treningspipelines.

Automatisert ende-til-ende fåskudds-tekstklassifiseringspipeline som støtter 50+ språk, bygget på SetFit og SBERT-innbygging.

Oxlo.ai er et personvernfokusert AI-inferens-API som tilbyr forespørselsbasert prising for over 45 åpne modeller.

PII GUI er en lokalt-basert skrivebordsapplikasjon for å oppdage og anonymisere personopplysninger i dokumenter ved hjelp av regex og ONNX-modeller som kjører på enheten.

Et Go-native rammeverk for å bygge, orkestrere og observere AI-agenter med innebygget OpenTelemetry-observerbarhet og et selvhostet dashbord.

Ollama er en plattform for å kjøre store språkmodeller lokalt og skalere til skyen, og tilbyr tilgang til raskere og større modeller med parallelle forespørsler og sanntidsinformasjon fra nettet.

Jan er en åpen kildekode, lokal-første AI-samtale-app som fungerer som en privat ChatGPT-erstatning.

Et nettleserbasert verktøy som anslår hvilke lokale AI-modeller maskinen din kan kjøre basert på enhetens egenskaper.

Fireworks AI er en generativ AI-plattform for rask inferens, modellhosting, finjustering og skalerbar utrulling av åpne modeller.

PixaryAI er en nettbasert AI-videogenerator for å lage videoer fra tekstprompt eller bilder med nettleserbaserte kontroller.

En lettvekts, høyytende LLM-proxy for bufring, failover, kostnadssporing og sømløs integrasjon mellom lokale og skybaserte AI-leverandører.

Wolbarg er et lokalførst TypeScript SDK som gir delt semantisk minne for AI-agenter ved bruk av SQLite eller PostgreSQL.

Enhetlig, null-allokeringsbasert innfødt AI-inferenskjøretid for Java, som konsoliderer LLM-, syn- og talepipelines via Project Panama.