Mejores herramientas para Modelos de Código Abierto IA gratis

Un proxy LLM ligero y de alto rendimiento para almacenamiento en caché, conmutación por error, seguimiento de costos e integración perfecta entre proveedores de IA locales y en la nube.

Wolbarg es un SDK TypeScript local-first que proporciona memoria semántica compartida para agentes de IA usando SQLite o PostgreSQL.

Runtime de inferencia de IA nativo unificado y sin asignación de memoria para Java, que consolida pipelines de LLM, visión y habla a través de Project Panama.

Osaurus es un asistente de IA local y privado para Mac que ejecuta modelos abiertos en el dispositivo, con acceso opcional a IA en la nube y agentes autónomos.

Un servidor de inferencia LLM ligero y completamente probado, construido para hardware de CPU económico, con almacenamiento en caché persistente y una API compatible con OpenAI.

Un motor en C sin dependencias que transmite pesos de expertos desde el disco para ejecutar el modelo GLM-5.2 MoE de 744B parámetros en hardware de consumo con tan solo 25 GB de RAM.

Frugon es un analizador de costos de LLM gratuito y de código abierto que identifica dónde se filtran los costos de tu factura de LLM analizando tus registros de llamadas localmente.

Un enrutador de ingreso sin bifurcaciones y sin jitter para redes de malla distribuidas de 32 GPU utilizando JAX/XLA y NCCL.

Skeights serializa modelos ajustados de scikit-learn a safetensors y JSON, reemplazando el inseguro pickle con un formato seguro e inspeccionable.

Ejecuta cualquier LLM localmente en tu Mac más rápido que LM Studio u Ollama, con chat, agentes de codificación, imágenes, video y voz, todo completamente offline y de código abierto.

Un proxy LLM ligero y de alto rendimiento para almacenamiento en caché, conmutación por error, seguimiento de costos e integración perfecta entre proveedores de IA locales y en la nube.

Wolbarg es un SDK TypeScript local-first que proporciona memoria semántica compartida para agentes de IA usando SQLite o PostgreSQL.

Runtime de inferencia de IA nativo unificado y sin asignación de memoria para Java, que consolida pipelines de LLM, visión y habla a través de Project Panama.

Osaurus es un asistente de IA local y privado para Mac que ejecuta modelos abiertos en el dispositivo, con acceso opcional a IA en la nube y agentes autónomos.

Un servidor de inferencia LLM ligero y completamente probado, construido para hardware de CPU económico, con almacenamiento en caché persistente y una API compatible con OpenAI.

Un motor en C sin dependencias que transmite pesos de expertos desde el disco para ejecutar el modelo GLM-5.2 MoE de 744B parámetros en hardware de consumo con tan solo 25 GB de RAM.

Frugon es un analizador de costos de LLM gratuito y de código abierto que identifica dónde se filtran los costos de tu factura de LLM analizando tus registros de llamadas localmente.

Un enrutador de ingreso sin bifurcaciones y sin jitter para redes de malla distribuidas de 32 GPU utilizando JAX/XLA y NCCL.

Skeights serializa modelos ajustados de scikit-learn a safetensors y JSON, reemplazando el inseguro pickle con un formato seguro e inspeccionable.

Ejecuta cualquier LLM localmente en tu Mac más rápido que LM Studio u Ollama, con chat, agentes de codificación, imágenes, video y voz, todo completamente offline y de código abierto.

AXIOM es un kernel de Rust arrancable que optimiza la inferencia de transformadores reemplazando las abstracciones genéricas del SO con primitivas específicas de inferencia.

NanoEuler es un modelo de lenguaje de estilo GPT-2 de código abierto construido completamente desde cero en C/CUDA con retropropagación escrita a mano, tokenizador BPE, FlashAttention y pipelines de entrenamiento.

Pipeline automatizado de extremo a extremo para clasificación de texto con pocos ejemplos, compatible con más de 50 idiomas, basado en embeddings SetFit y SBERT.

Oxlo.ai es una API de inferencia de IA centrada en la privacidad que ofrece precios por solicitud para más de 45 modelos de código abierto.

PII GUI es una aplicación de escritorio local-first para detectar y eliminar información personal en documentos utilizando expresiones regulares y modelos ONNX en el dispositivo.

Un framework nativo de Go para construir, orquestar y observar agentes de IA con observabilidad nativa de OpenTelemetry y un dashboard autogestionado.

Ollama es una plataforma para ejecutar modelos de lenguaje grandes localmente y escalar a la nube, ofreciendo acceso a modelos más rápidos y grandes con solicitudes paralelas e información web en tiempo real.

Jan es una aplicación de chat de IA de código abierto y local primero que funciona como un reemplazo privado de ChatGPT.

Una herramienta basada en navegador que estima qué modelos de IA locales puede ejecutar tu máquina según las capacidades del dispositivo.

Fireworks AI es una plataforma de IA generativa para inferencia rápida, alojamiento de modelos, fine-tuning y despliegue escalable de modelos abiertos.

PixaryAI es un generador de video con IA en línea para crear videos a partir de prompts de texto o imágenes, con controles basados en el navegador.

Un proxy LLM ligero y de alto rendimiento para almacenamiento en caché, conmutación por error, seguimiento de costos e integración perfecta entre proveedores de IA locales y en la nube.

Wolbarg es un SDK TypeScript local-first que proporciona memoria semántica compartida para agentes de IA usando SQLite o PostgreSQL.

Runtime de inferencia de IA nativo unificado y sin asignación de memoria para Java, que consolida pipelines de LLM, visión y habla a través de Project Panama.