Beste gratis verktøy for AI Store Språkmodeller

En spesialisert lokal inferensmotor for store språkmodeller, optimalisert for Apple Silicon og SSD-strømming på minnebegrensede systemer.

Enhetlig, null-allokeringsbasert innfødt AI-inferenskjøretid for Java, som konsoliderer LLM-, syn- og talepipelines via Project Panama.

En uavhengig C-motor som strømmer ekspertvekter fra disk for å kjøre GLM-5.2 MoE-modellen med 744 milliarder parametere på forbruker maskinvare med så lite som 25 GB RAM.

En enhetlig AI-gateway som gir tilgang til over 300 ledende modeller gjennom ett EU-hostet, GDPR-kompatibelt API med et OpenAI SDK-kompatibelt grensesnitt.

Enhetlig AI API-gateway som gir tilgang til toppmoderne LLM-er, bilde-, video- og kodingsmodeller til rimelige priser.

Et nettleserbasert verktøy som bruker Jacobian-linsen for å lese språkmodellers interne konsepter i sanntid.

Frugon er en gratis, åpen kildekode LLM-kostnadsanalysator som identifiserer hvor LLM-regningen lekker ved å analysere anropsloggene dine lokalt.

Et Swift-rammeverk for å bygge tilstandsbevisste, multiagent AI-arbeidsflyter med typesikre verktøy, krasjresiliens og innebygd samtidighet.

Kjør enhver LLM lokalt på din Mac raskere enn LM Studio eller Ollama, med chat, kodeagenter, bilder, video og stemme, helt offline og åpen kildekode.

AXIOM er en oppstartbar Rust-kjerne som optimaliserer transformator-inferens ved å erstatte generiske OS-abstraksjoner med inferens-spesifikke primitiver.

En spesialisert lokal inferensmotor for store språkmodeller, optimalisert for Apple Silicon og SSD-strømming på minnebegrensede systemer.

Enhetlig, null-allokeringsbasert innfødt AI-inferenskjøretid for Java, som konsoliderer LLM-, syn- og talepipelines via Project Panama.

En uavhengig C-motor som strømmer ekspertvekter fra disk for å kjøre GLM-5.2 MoE-modellen med 744 milliarder parametere på forbruker maskinvare med så lite som 25 GB RAM.

En enhetlig AI-gateway som gir tilgang til over 300 ledende modeller gjennom ett EU-hostet, GDPR-kompatibelt API med et OpenAI SDK-kompatibelt grensesnitt.

En enhetlig API-plattform for LLM-inferens med kostnadsoptimalisering, ruting, observerbarhet og automatisk failover.

Enhetlig AI API-gateway som gir tilgang til toppmoderne LLM-er, bilde-, video- og kodingsmodeller til rimelige priser.

Et nettleserbasert verktøy som bruker Jacobian-linsen for å lese språkmodellers interne konsepter i sanntid.

Frugon er en gratis, åpen kildekode LLM-kostnadsanalysator som identifiserer hvor LLM-regningen lekker ved å analysere anropsloggene dine lokalt.

Et Swift-rammeverk for å bygge tilstandsbevisste, multiagent AI-arbeidsflyter med typesikre verktøy, krasjresiliens og innebygd samtidighet.

Kjør enhver LLM lokalt på din Mac raskere enn LM Studio eller Ollama, med chat, kodeagenter, bilder, video og stemme, helt offline og åpen kildekode.

AXIOM er en oppstartbar Rust-kjerne som optimaliserer transformator-inferens ved å erstatte generiske OS-abstraksjoner med inferens-spesifikke primitiver.

Lightning Rod trener små AI-modeller på rotete virkelige data for å forutsi utfall i sport, politikk, finans og mer, og tilbyr et kostnadseffektivt alternativ til frontier-modeller.

Ett chattegrensesnitt som gir deg tilgang til over 100 AI-modeller, velger automatisk den beste modellen for oppgaven din, samtidig som den sporer energibruk og beskytter personvernet ditt.

NanoEuler er en åpen kildekode GPT-2-lignende språkmodell bygget helt fra bunnen av i C/CUDA med håndskrevet backprop, BPE-tokenisering, FlashAttention og treningspipelines.

En referanseimplementering som bruker Linux Pressure Stall Information for å trimme LLMs KV-cache under minnepress.

Oxlo.ai er et personvernfokusert AI-inferens-API som tilbyr forespørselsbasert prising for over 45 åpne modeller.

Graphsignal er en produksjonsskala inferensprofileringsplattform som hjelper ingeniører med å optimalisere AI-ytelse på tvers av modeller, motorer, GPUer og andre akseleratorer.

En interaktiv visuell minikurs som forklarer transformerarkitekturen fra grunnleggende prinsipper, basert på artikkelen 'Attention Is All You Need'.

Gratis åpen kildekode skrivebordskompis som kjører en privat AI-backend på Mac/PC og kobler MyLLM iOS-appen over pålitelig HTTPS via Tailscale.

Quant Picker hjelper deg med å velge den optimale GGUF-kvantiseringen for din LLM ved å balansere kvalitet, kontekstlengde og hastighet basert på maskinvaren din.

ZeroGPU er et beregningseffektivitetslag som hjelper AI-applikasjoner og -agenter med å redusere kostnader ved å dirigere høyvolum infereringsoppgaver til spesialiserte små språkmodeller via et kantdrevet nettverk.

Claude Fabel 5 fra Anthropic er en toppmoderne AI-språkmodell med enestående ytelse innen koding, analyse, bildesyn og forskning, utstyrt med avanserte sikkerhetsklassifiserere.

Ollama er en plattform for å kjøre store språkmodeller lokalt og skalere til skyen, og tilbyr tilgang til raskere og større modeller med parallelle forespørsler og sanntidsinformasjon fra nettet.

En gratis AI-chatbot drevet av en stor språkmodell for samtale, koding og kreative oppgaver.

Uncensored AI er et AI-modellhub og en chatplattform som gir tilgang til flere store modeller, inkludert uncensored-varianter, samt et API i privat beta.

ApX Machine Learning er en pedagogisk plattform for å lære maskinlæring, LLM-er og praktisk AI-ingeniørkunst gjennom kurs, veiledninger, verktøy og modelrankinger.

ChatHub lar deg sammenligne svar fra flere ledende AI-modeller side om side i én app.

Atlas Cloud er en full-modal AI-inferensplattform som tilbyr én API for chat-, bilde-, video- og lydmodeller.

Et nettleserbasert verktøy som anslår hvilke lokale AI-modeller maskinen din kan kjøre basert på enhetens egenskaper.

Groq tilbyr rask og rimelig AI-inferens via GroqCloud og sin egendefinerte LPU-stack.

Vast.ai er en API-basert GPU-sky for å leie on-demand beregning med sanntidsprising og fakturering per sekund.

Arena AI er et offisielt AI-modell-rangerings- og LLM-ledertavleside for å sammenligne og følge med på modellytelse.

En spesialisert lokal inferensmotor for store språkmodeller, optimalisert for Apple Silicon og SSD-strømming på minnebegrensede systemer.

Enhetlig, null-allokeringsbasert innfødt AI-inferenskjøretid for Java, som konsoliderer LLM-, syn- og talepipelines via Project Panama.

En uavhengig C-motor som strømmer ekspertvekter fra disk for å kjøre GLM-5.2 MoE-modellen med 744 milliarder parametere på forbruker maskinvare med så lite som 25 GB RAM.