Bedste gratis værktøjer til AI Open Source Modeller

En letvægts, højtydende LLM-proxy til caching, failover, omkostningssporing og problemfri integration mellem lokale og cloudbaserede AI-udbydere.

Wolbarg er et lokal-først TypeScript-udviklingssæt, der giver delt semantisk hukommelse til AI-agenter ved brug af SQLite eller PostgreSQL.

Unificeret, nul-allokerende native AI-inferensruntime til Java, der konsoliderer LLM-, vision- og talepipelines via Project Panama.

Osaurus er en privat, lokal AI-assistent til Mac, der kører åbne modeller på enheden, med valgfri cloud AI-adgang og autonome agenter.

En slank, fuldt testet LLM-inferensserver bygget til billig CPU-hardware med vedvarende caching og en OpenAI-kompatibel API.

En afhængighedsfri C-motor, der streamer ekspertvægte fra disk for at køre GLM-5.2 MoE-modellen med 744B parametre på forbrugerhardware med så lidt som 25 GB RAM.

Frugon er en gratis, open-source LLM-omkostningsanalysator, der identificerer, hvor din LLM-regning lækker, ved at analysere dine opkaldslogfiler lokalt.

En grenløs, nul-jitter indgangsrouter til 32-GPU distribuerede mesh-netværk, der bruger JAX/XLA og NCCL.

Skeights serialiserer fittede scikit-learn-modeller til safetensors og JSON, og erstatter usikker pickle med et sikkert, inspicerbart format.

Kør enhver LLM lokalt på din Mac hurtigere end LM Studio eller Ollama, med chat, kodningsagenter, billeder, video og stemme, helt offline og open source.

En letvægts, højtydende LLM-proxy til caching, failover, omkostningssporing og problemfri integration mellem lokale og cloudbaserede AI-udbydere.

Wolbarg er et lokal-først TypeScript-udviklingssæt, der giver delt semantisk hukommelse til AI-agenter ved brug af SQLite eller PostgreSQL.

Unificeret, nul-allokerende native AI-inferensruntime til Java, der konsoliderer LLM-, vision- og talepipelines via Project Panama.

Osaurus er en privat, lokal AI-assistent til Mac, der kører åbne modeller på enheden, med valgfri cloud AI-adgang og autonome agenter.

En slank, fuldt testet LLM-inferensserver bygget til billig CPU-hardware med vedvarende caching og en OpenAI-kompatibel API.

En afhængighedsfri C-motor, der streamer ekspertvægte fra disk for at køre GLM-5.2 MoE-modellen med 744B parametre på forbrugerhardware med så lidt som 25 GB RAM.

Frugon er en gratis, open-source LLM-omkostningsanalysator, der identificerer, hvor din LLM-regning lækker, ved at analysere dine opkaldslogfiler lokalt.

En grenløs, nul-jitter indgangsrouter til 32-GPU distribuerede mesh-netværk, der bruger JAX/XLA og NCCL.

Skeights serialiserer fittede scikit-learn-modeller til safetensors og JSON, og erstatter usikker pickle med et sikkert, inspicerbart format.

Kør enhver LLM lokalt på din Mac hurtigere end LM Studio eller Ollama, med chat, kodningsagenter, billeder, video og stemme, helt offline og open source.

AXIOM er en bootbar Rust-kerne, der optimerer transformer-inferens ved at erstatte generiske OS-abstraktioner med inferens-specifikke primitiver.

NanoEuler er en open-source GPT-2-inspireret sprogmodel, bygget helt fra bunden i C/CUDA med håndskrevet backprop, BPE-tokenizer, FlashAttention og træningspipelines.

Automatiseret end-to-end få-eksempel tekstklassifikationspipeline, der understøtter 50+ sprog, bygget på SetFit og SBERT-embeddings.

Oxlo.ai er en privatlivsvenlig AI-inferens-API, der tilbyder anmodningsbaseret prissætning for over 45 open-source-modeller.

PII GUI er en lokal-først skrivebordsapplikation til at opdage og sløre personlige oplysninger i dokumenter ved hjælp af regex og ONNX-modeller på enheden.

En Go-native rammeværk til at bygge, orkestrere og overvåge AI-agenter med indbygget OpenTelemetry-observabilitet og et selvhostet dashboard.

Ollama er en platform til at køre store sprogmodeller lokalt og skalere til skyen, hvilket giver adgang til hurtigere, større modeller med parallelle forespørgsler og realtidswebinformation.

Jan er en open-source, lokalt-først AI-chat-app, der fungerer som en privat ChatGPT-erstatning.

Et browserbaseret værktøj, der estimerer, hvilke lokale AI-modeller din maskine kan køre, baseret på enhedens kapaciteter.

Fireworks AI er en generativ AI-platform til hurtig inference, modelhosting, fine-tuning og skalerbar deployment af åbne modeller.

PixaryAI er en online AI-videogenerator til at skabe videoer ud fra tekstprompter eller billeder med browserbaserede kontroller.

En letvægts, højtydende LLM-proxy til caching, failover, omkostningssporing og problemfri integration mellem lokale og cloudbaserede AI-udbydere.

Wolbarg er et lokal-først TypeScript-udviklingssæt, der giver delt semantisk hukommelse til AI-agenter ved brug af SQLite eller PostgreSQL.

Unificeret, nul-allokerende native AI-inferensruntime til Java, der konsoliderer LLM-, vision- og talepipelines via Project Panama.