최고의 무료 AI 오픈소스 모델 도구

가벼우면서 고성능인 LLM 프록시로, 캐싱, 장애 조치, 비용 추적 및 로컬과 클라우드 AI 제공 업체 간의 원활한 통합을 제공합니다.

Wolbarg는 SQLite 또는 PostgreSQL을 사용하여 AI 에이전트에 공유 의미 메모리를 제공하는 로컬 우선 TypeScript SDK입니다.

Project Panama를 통해 LLM, 비전 및 음성 파이프라인을 통합하는 Java용 통합 제로 할당 네이티브 AI 추론 런타임입니다.

Osaurus는 Mac용 비공개 로컬 AI 비서로, 기기 내에서 오픈 모델을 실행하며 선택적으로 클라우드 AI 접근 및 자율 에이전트를 제공합니다.

저렴한 CPU 하드웨어를 위해 구축된 간결하고 완전히 테스트된 LLM 추론 서버로, 영구 캐싱과 OpenAI 호환 API를 제공합니다.

의존성 없는 C 엔진으로, 디스크에서 전문가 가중치를 스트리밍하여 744B 매개변수 GLM-5.2 MoE 모델을 25GB RAM만으로 소비자 하드웨어에서 실행합니다.

Frugon은 무료 오픈소스 LLM 비용 분석기로, 로컬에서 호출 로그를 분석하여 LLM 청구서에서 누수가 발생하는 부분을 식별합니다.

JAX/XLA와 NCCL을 활용하는 32-GPU 분산 메시 네트워크를 위한 분기 없는 제로 지터 인그레스 라우터입니다.

Skeights는 적합된 scikit-learn 모델을 safetensors와 JSON으로 직렬화하여, 안전하지 않은 pickle을 안전하고 검사 가능한 형식으로 대체합니다.

Mac에서 LM Studio나 Ollama보다 빠르게 모든 LLM을 로컬로 실행하세요. 채팅, 코딩 에이전트, 이미지, 비디오, 음성을 모두 완전히 오프라인에서 오픈 소스로 지원합니다.

가벼우면서 고성능인 LLM 프록시로, 캐싱, 장애 조치, 비용 추적 및 로컬과 클라우드 AI 제공 업체 간의 원활한 통합을 제공합니다.

Wolbarg는 SQLite 또는 PostgreSQL을 사용하여 AI 에이전트에 공유 의미 메모리를 제공하는 로컬 우선 TypeScript SDK입니다.

Project Panama를 통해 LLM, 비전 및 음성 파이프라인을 통합하는 Java용 통합 제로 할당 네이티브 AI 추론 런타임입니다.

Osaurus는 Mac용 비공개 로컬 AI 비서로, 기기 내에서 오픈 모델을 실행하며 선택적으로 클라우드 AI 접근 및 자율 에이전트를 제공합니다.

저렴한 CPU 하드웨어를 위해 구축된 간결하고 완전히 테스트된 LLM 추론 서버로, 영구 캐싱과 OpenAI 호환 API를 제공합니다.

의존성 없는 C 엔진으로, 디스크에서 전문가 가중치를 스트리밍하여 744B 매개변수 GLM-5.2 MoE 모델을 25GB RAM만으로 소비자 하드웨어에서 실행합니다.

Frugon은 무료 오픈소스 LLM 비용 분석기로, 로컬에서 호출 로그를 분석하여 LLM 청구서에서 누수가 발생하는 부분을 식별합니다.

JAX/XLA와 NCCL을 활용하는 32-GPU 분산 메시 네트워크를 위한 분기 없는 제로 지터 인그레스 라우터입니다.

Skeights는 적합된 scikit-learn 모델을 safetensors와 JSON으로 직렬화하여, 안전하지 않은 pickle을 안전하고 검사 가능한 형식으로 대체합니다.

Mac에서 LM Studio나 Ollama보다 빠르게 모든 LLM을 로컬로 실행하세요. 채팅, 코딩 에이전트, 이미지, 비디오, 음성을 모두 완전히 오프라인에서 오픈 소스로 지원합니다.

AXIOM은 부팅 가능한 Rust 커널로, 일반적인 OS 추상화를 추론에 특화된 프리미티브로 대체하여 트랜스포머 추론을 최적화합니다.

NanoEuler는 C/CUDA로 처음부터 완전히 구축된 오픈소스 GPT-2 스타일 언어 모델로, 수제 역전파, BPE 토크나이저, FlashAttention 및 학습 파이프라인을 포함합니다.

50개 이상의 언어를 지원하는 자동화된 엔드투엔드 퓨샷 텍스트 분류 파이프라인으로, SetFit 및 SBERT 임베딩 기반.

Oxlo.ai는 프라이버시를 우선시하는 AI 추론 API로, 45개 이상의 오픈소스 모델에 대해 요청 기반 가격을 제공합니다.

PII GUI는 로컬 우선 데스크톱 애플리케이션으로, 정규 표현식과 기기 내 ONNX 모델을 사용하여 문서에서 개인 정보를 탐지하고 수정합니다.

Go 네이티브 프레임워크로, AI 에이전트를 구축, 오케스트레이션 및 관찰할 수 있으며 네이티브 OpenTelemetry 관찰 가능성과 자체 호스팅 대시보드를 제공합니다.

Ollama는 대규모 언어 모델을 로컬에서 실행하고 클라우드로 확장할 수 있는 플랫폼으로, 병렬 요청 및 실시간 웹 정보를 통해 더 빠르고 더 큰 모델에 대한 액세스를 제공합니다.

Jan은 오픈 소스, 로컬 우선 AI 채팅 앱으로, 프라이빗 ChatGPT 대체 역할을 합니다.

CanIRun.ai는 기기 성능을 바탕으로 로컬 AI 모델을 내 기기에서 실행할 수 있는지 추정해 주는 브라우저 기반 도구입니다.

Fireworks AI는 빠른 추론, 모델 호스팅, fine-tuning, 그리고 오픈 모델의 확장 가능한 배포를 위한 생성형 AI 플랫폼입니다.

PixaryAI는 텍스트 프롬프트나 이미지를 바탕으로 브라우저 기반 제어로 비디오를 제작할 수 있는 온라인 AI 비디오 생성기입니다.

가벼우면서 고성능인 LLM 프록시로, 캐싱, 장애 조치, 비용 추적 및 로컬과 클라우드 AI 제공 업체 간의 원활한 통합을 제공합니다.

Wolbarg는 SQLite 또는 PostgreSQL을 사용하여 AI 에이전트에 공유 의미 메모리를 제공하는 로컬 우선 TypeScript SDK입니다.

Project Panama를 통해 LLM, 비전 및 음성 파이프라인을 통합하는 Java용 통합 제로 할당 네이티브 AI 추론 런타임입니다.