alat untuk Model Open Source AI gratis terbaik

Proksi LLM ringan dan berkinerja tinggi untuk caching, failover, pelacakan biaya, dan integrasi mulus antara penyedia AI lokal dan cloud.

Wolbarg adalah SDK TypeScript lokal-pertama yang menyediakan memori semantik bersama untuk agen AI menggunakan SQLite atau PostgreSQL.

Runtime inferensi AI asli yang terpadu dan tanpa alokasi memori untuk Java, menggabungkan pipeline LLM, visi, dan ucapan melalui Project Panama.

Osaurus adalah asisten AI lokal dan pribadi untuk Mac yang menjalankan model terbuka di perangkat, dengan akses opsional ke AI cloud dan agen otonom.

Server inferensi LLM yang ramping dan teruji sepenuhnya, dibangun untuk perangkat keras CPU murah, dengan caching persisten dan API yang kompatibel dengan OpenAI.

Mesin C tanpa dependensi yang mengalirkan bobot ahli dari disk untuk menjalankan model MoE GLM-5.2 dengan 744 miliar parameter pada perangkat konsumen dengan RAM hanya 25 GB.

Frugon adalah penganalisis biaya LLM gratis dan open-source yang mengidentifikasi di mana tagihan LLM Anda bocor dengan menganalisis log panggilan Anda secara lokal.

Router ingress tanpa cabang dan tanpa jitter untuk jaringan mesh terdistribusi 32-GPU yang memanfaatkan JAX/XLA dan NCCL.

Skeights melakukan serialisasi model scikit-learn yang telah dilatih ke safetensors dan JSON, menggantikan pickle yang tidak aman dengan format yang aman dan dapat diperiksa.

Jalankan LLM apa pun secara lokal di Mac Anda lebih cepat dari LM Studio atau Ollama, dengan chat, agen coding, gambar, video, dan suara, sepenuhnya offline dan open source.

Proksi LLM ringan dan berkinerja tinggi untuk caching, failover, pelacakan biaya, dan integrasi mulus antara penyedia AI lokal dan cloud.

Wolbarg adalah SDK TypeScript lokal-pertama yang menyediakan memori semantik bersama untuk agen AI menggunakan SQLite atau PostgreSQL.

Runtime inferensi AI asli yang terpadu dan tanpa alokasi memori untuk Java, menggabungkan pipeline LLM, visi, dan ucapan melalui Project Panama.

Osaurus adalah asisten AI lokal dan pribadi untuk Mac yang menjalankan model terbuka di perangkat, dengan akses opsional ke AI cloud dan agen otonom.

Server inferensi LLM yang ramping dan teruji sepenuhnya, dibangun untuk perangkat keras CPU murah, dengan caching persisten dan API yang kompatibel dengan OpenAI.

Mesin C tanpa dependensi yang mengalirkan bobot ahli dari disk untuk menjalankan model MoE GLM-5.2 dengan 744 miliar parameter pada perangkat konsumen dengan RAM hanya 25 GB.

Frugon adalah penganalisis biaya LLM gratis dan open-source yang mengidentifikasi di mana tagihan LLM Anda bocor dengan menganalisis log panggilan Anda secara lokal.

Router ingress tanpa cabang dan tanpa jitter untuk jaringan mesh terdistribusi 32-GPU yang memanfaatkan JAX/XLA dan NCCL.

Skeights melakukan serialisasi model scikit-learn yang telah dilatih ke safetensors dan JSON, menggantikan pickle yang tidak aman dengan format yang aman dan dapat diperiksa.

Jalankan LLM apa pun secara lokal di Mac Anda lebih cepat dari LM Studio atau Ollama, dengan chat, agen coding, gambar, video, dan suara, sepenuhnya offline dan open source.

AXIOM adalah kernel Rust yang dapat di-boot yang mengoptimalkan inferensi transformer dengan menggantikan abstraksi OS generik dengan primitif khusus inferensi.

NanoEuler adalah model bahasa open-source bergaya GPT-2 yang dibangun sepenuhnya dari awal dalam C/CUDA dengan backprop yang ditulis manual, tokenizer BPE, FlashAttention, dan pipeline pelatihan.

Pipeline klasifikasi teks few-shot otomatis dari ujung ke ujung yang mendukung 50+ bahasa, dibangun di atas SetFit dan embedding SBERT.

Oxlo.ai adalah API inferensi AI yang mengutamakan privasi dengan penawaran harga berbasis permintaan untuk lebih dari 45 model sumber terbuka.

PII GUI adalah aplikasi desktop yang mengutamakan pemrosesan lokal untuk mendeteksi dan menyunting informasi pribadi dalam dokumen menggunakan regex dan model ONNX di perangkat.

Framework asli Go untuk membangun, mengorkestrasi, dan mengamati agen AI dengan observabilitas OpenTelemetry asli dan dasbor yang dihosting sendiri.

Ollama adalah platform untuk menjalankan model bahasa besar secara lokal dan melakukan penskalaan ke cloud, menawarkan akses ke model yang lebih cepat dan lebih besar dengan permintaan paralel dan informasi web waktu nyata.

Jan adalah aplikasi obrolan AI sumber terbuka yang mengutamakan lokal dan berfungsi sebagai pengganti ChatGPT pribadi.

Alat berbasis browser yang memperkirakan model AI lokal mana yang dapat dijalankan oleh mesin Anda berdasarkan kemampuan perangkat.

Fireworks AI adalah platform AI generatif untuk inference cepat, hosting model, fine-tuning, dan deployment model open source yang skalabel.

PixaryAI adalah generator video AI online untuk membuat video dari prompt teks atau gambar dengan kontrol berbasis browser.

Proksi LLM ringan dan berkinerja tinggi untuk caching, failover, pelacakan biaya, dan integrasi mulus antara penyedia AI lokal dan cloud.

Wolbarg adalah SDK TypeScript lokal-pertama yang menyediakan memori semantik bersama untuk agen AI menggunakan SQLite atau PostgreSQL.

Runtime inferensi AI asli yang terpadu dan tanpa alokasi memori untuk Java, menggabungkan pipeline LLM, visi, dan ucapan melalui Project Panama.