En iyi ücretsiz Yapay Zeka Açık Kaynak Modelleri araçları

Ollama, OpenAI ve llama.cpp API'lerini taklit eden, NVIDIA'nın uyumlu API'sine şeffaf yönlendirme yapan hafif ve yüksek performanslı bir LLM vekil sunucusu.

Wolbarg, SQLite veya PostgreSQL kullanan AI ajanları için paylaşılan semantik bellek sağlayan, yerel-ilk bir TypeScript SDK'dır.

Java için birleşik, sıfır tahsisli yerel AI çıkarım çalışma zamanı; LLM, görüntü ve konuşma işlem hatlarını Project Panama aracılığıyla birleştirir.

Osaurus, Mac için özel, yerel bir yapay zeka asistanıdır; açık modelleri cihaz üzerinde çalıştırır ve isteğe bağlı bulut yapay zeka erişimi ile otonom ajanlar sunar.

Ucuz CPU donanımı için tasarlanmış, kalıcı önbellekleme ve OpenAI uyumlu API'ye sahip, hafif ve tam test edilmiş bir LLM çıkarım sunucusu.

Bağımlılıksız bir C motoru; 744B parametreli GLM-5.2 MoE modelini tüketici donanımında en az 25 GB RAM ile çalıştırmak için diskten uzman ağırlıklarını akışla aktarır.

Frugon, ücretsiz ve açık kaynaklı bir LLM maliyet analizörüdür. Çağrı kayıtlarınızı yerel olarak analiz ederek LLM faturanızın nereden sızdığını belirler.

JAX/XLA ve NCCL kullanan 32 GPU'lu dağıtık ağ topolojileri için dallanmasız, sıfır gecikmeli giriş yönlendiricisi.

Skeights, eğitilmiş scikit-learn modellerini safetensors ve JSON formatına serileştirerek güvensiz pickle'ı güvenli ve incelenebilir bir formatla değiştirir.

Herhangi bir LLM'yi Mac'inizde LM Studio veya Ollama'dan daha hızlı çalıştırın; sohbet, kodlama ajanları, görseller, video ve ses desteğiyle tamamen çevrimdışı ve açık kaynak.

Ollama, OpenAI ve llama.cpp API'lerini taklit eden, NVIDIA'nın uyumlu API'sine şeffaf yönlendirme yapan hafif ve yüksek performanslı bir LLM vekil sunucusu.

Wolbarg, SQLite veya PostgreSQL kullanan AI ajanları için paylaşılan semantik bellek sağlayan, yerel-ilk bir TypeScript SDK'dır.

Java için birleşik, sıfır tahsisli yerel AI çıkarım çalışma zamanı; LLM, görüntü ve konuşma işlem hatlarını Project Panama aracılığıyla birleştirir.

Osaurus, Mac için özel, yerel bir yapay zeka asistanıdır; açık modelleri cihaz üzerinde çalıştırır ve isteğe bağlı bulut yapay zeka erişimi ile otonom ajanlar sunar.

Ucuz CPU donanımı için tasarlanmış, kalıcı önbellekleme ve OpenAI uyumlu API'ye sahip, hafif ve tam test edilmiş bir LLM çıkarım sunucusu.

Bağımlılıksız bir C motoru; 744B parametreli GLM-5.2 MoE modelini tüketici donanımında en az 25 GB RAM ile çalıştırmak için diskten uzman ağırlıklarını akışla aktarır.

Frugon, ücretsiz ve açık kaynaklı bir LLM maliyet analizörüdür. Çağrı kayıtlarınızı yerel olarak analiz ederek LLM faturanızın nereden sızdığını belirler.

JAX/XLA ve NCCL kullanan 32 GPU'lu dağıtık ağ topolojileri için dallanmasız, sıfır gecikmeli giriş yönlendiricisi.

Skeights, eğitilmiş scikit-learn modellerini safetensors ve JSON formatına serileştirerek güvensiz pickle'ı güvenli ve incelenebilir bir formatla değiştirir.

Herhangi bir LLM'yi Mac'inizde LM Studio veya Ollama'dan daha hızlı çalıştırın; sohbet, kodlama ajanları, görseller, video ve ses desteğiyle tamamen çevrimdışı ve açık kaynak.

AXIOM, dönüştürücü çıkarımını optimize etmek için genel işletim sistemi soyutlamalarını çıkarıma özel temel bileşenlerle değiştiren, önyüklenebilir bir Rust çekirdeğidir.

NanoEuler, C/CUDA'da sıfırdan yazılmış, el yapımı geri yayılım, BPE tokenizer, FlashAttention ve eğitim hatlarına sahip, açık kaynaklı GPT-2 tarzı bir dil modelidir.

50'den fazla dili destekleyen, SetFit ve SBERT gömme yöntemleri üzerine inşa edilmiş, otomatik uçtan uca az örnekli metin sınıflandırma hattı.

Oxlo.ai, 45'ten fazla açık kaynak model için istek tabanlı fiyatlandırma sunan, gizlilik öncelikli bir AI çıkarım API'sidir.

PII GUI, belgelerdeki kişisel bilgileri regex ve cihaz içi ONNX modelleriyle tespit edip gizleyen, yerel öncelikli bir masaüstü uygulamasıdır.

AI ajanları oluşturmak, yönetmek ve gözlemlemek için Go-native bir framework, yerleşik OpenTelemetry gözlemlenebilirliği ve kendi kendine barındırılan bir dashboard ile.

Ollama, büyük dil modellerini yerel olarak çalıştırmak ve buluta ölçeklendirmek için bir platformdur; paralel istekler ve gerçek zamanlı web bilgileri ile daha hızlı, daha büyük modellere erişim sunar.

Jan, açık kaynaklı, yerel öncelikli bir yapay zeka sohbet uygulamasıdır ve özel bir ChatGPT alternatifi olarak çalışır.

Yerel AI modellerinin makinenizde çalıştırılabilirliğini, cihaz özelliklerinize göre tahmin eden tarayıcı tabanlı bir araçtır.

Fireworks AI, açık modellerin hızlı inference, model hosting, fine-tuning ve ölçeklenebilir deployment’ı için bir generative AI platformudur.

PixaryAI, metin istemlerinden veya görsellerden tarayıcı tabanlı kontrollerle videolar oluşturmak için kullanılan çevrimiçi bir AI video üreticisidir.

Ollama, OpenAI ve llama.cpp API'lerini taklit eden, NVIDIA'nın uyumlu API'sine şeffaf yönlendirme yapan hafif ve yüksek performanslı bir LLM vekil sunucusu.

Wolbarg, SQLite veya PostgreSQL kullanan AI ajanları için paylaşılan semantik bellek sağlayan, yerel-ilk bir TypeScript SDK'dır.

Java için birleşik, sıfır tahsisli yerel AI çıkarım çalışma zamanı; LLM, görüntü ve konuşma işlem hatlarını Project Panama aracılığıyla birleştirir.