최고의 무료 AI 대형 언어 모델 (LLM) 도구

대규모 언어 모델을 위한 특화된 로컬 추론 엔진으로, Apple Silicon 및 SSD 스트리밍에 최적화되어 메모리가 제한된 시스템에서 작동합니다.

Project Panama를 통해 LLM, 비전 및 음성 파이프라인을 통합하는 Java용 통합 제로 할당 네이티브 AI 추론 런타임입니다.

의존성 없는 C 엔진으로, 디스크에서 전문가 가중치를 스트리밍하여 744B 매개변수 GLM-5.2 MoE 모델을 25GB RAM만으로 소비자 하드웨어에서 실행합니다.

300개 이상의 주요 AI 모델에 하나의 EU 호스팅, GDPR 준수 API로 접근할 수 있도록 하는 통합 AI 게이트웨이로, OpenAI SDK 호환 인터페이스를 제공합니다.

통합 AI API 게이트웨이로 최고 수준의 LLM, 이미지, 비디오, 코딩 모델을 저렴한 가격에 제공합니다.

야코비안 렌즈를 사용하여 언어 모델 내부 개념을 실시간으로 읽을 수 있는 브라우저 기반 도구입니다.

Frugon은 무료 오픈소스 LLM 비용 분석기로, 로컬에서 호출 로그를 분석하여 LLM 청구서에서 누수가 발생하는 부분을 식별합니다.

상태 저장형 다중 에이전트 AI 워크플로우를 구축하기 위한 Swift 프레임워크로, 타입 안전 도구, 충돌 복원력, 네이티브 동시성을 제공합니다.

Mac에서 LM Studio나 Ollama보다 빠르게 모든 LLM을 로컬로 실행하세요. 채팅, 코딩 에이전트, 이미지, 비디오, 음성을 모두 완전히 오프라인에서 오픈 소스로 지원합니다.

AXIOM은 부팅 가능한 Rust 커널로, 일반적인 OS 추상화를 추론에 특화된 프리미티브로 대체하여 트랜스포머 추론을 최적화합니다.

대규모 언어 모델을 위한 특화된 로컬 추론 엔진으로, Apple Silicon 및 SSD 스트리밍에 최적화되어 메모리가 제한된 시스템에서 작동합니다.

Project Panama를 통해 LLM, 비전 및 음성 파이프라인을 통합하는 Java용 통합 제로 할당 네이티브 AI 추론 런타임입니다.

의존성 없는 C 엔진으로, 디스크에서 전문가 가중치를 스트리밍하여 744B 매개변수 GLM-5.2 MoE 모델을 25GB RAM만으로 소비자 하드웨어에서 실행합니다.

300개 이상의 주요 AI 모델에 하나의 EU 호스팅, GDPR 준수 API로 접근할 수 있도록 하는 통합 AI 게이트웨이로, OpenAI SDK 호환 인터페이스를 제공합니다.

비용 최적화, 라우팅, 관찰 가능성 및 자동 장애 조치를 갖춘 LLM 추론을 위한 통합 API 플랫폼입니다.

통합 AI API 게이트웨이로 최고 수준의 LLM, 이미지, 비디오, 코딩 모델을 저렴한 가격에 제공합니다.

야코비안 렌즈를 사용하여 언어 모델 내부 개념을 실시간으로 읽을 수 있는 브라우저 기반 도구입니다.

Frugon은 무료 오픈소스 LLM 비용 분석기로, 로컬에서 호출 로그를 분석하여 LLM 청구서에서 누수가 발생하는 부분을 식별합니다.

상태 저장형 다중 에이전트 AI 워크플로우를 구축하기 위한 Swift 프레임워크로, 타입 안전 도구, 충돌 복원력, 네이티브 동시성을 제공합니다.

Mac에서 LM Studio나 Ollama보다 빠르게 모든 LLM을 로컬로 실행하세요. 채팅, 코딩 에이전트, 이미지, 비디오, 음성을 모두 완전히 오프라인에서 오픈 소스로 지원합니다.

AXIOM은 부팅 가능한 Rust 커널로, 일반적인 OS 추상화를 추론에 특화된 프리미티브로 대체하여 트랜스포머 추론을 최적화합니다.

Lightning Rod는 복잡한 실제 데이터로 소형 AI 모델을 훈련하여 스포츠, 정치, 금융 등에서 결과를 예측하며, 최첨단 모델에 비해 비용 효율적인 대안을 제공합니다.

100개 이상의 AI 모델에 접근할 수 있는 하나의 채팅 인터페이스로, 작업에 가장 적합한 모델을 자동 선택하고 에너지 사용량을 추적하며 개인정보를 보호합니다.

NanoEuler는 C/CUDA로 처음부터 완전히 구축된 오픈소스 GPT-2 스타일 언어 모델로, 수제 역전파, BPE 토크나이저, FlashAttention 및 학습 파이프라인을 포함합니다.

Linux Pressure Stall Information을 사용하여 메모리 압박 하에서 LLM KV 캐시를 정리하는 참조 구현입니다.

Oxlo.ai는 프라이버시를 우선시하는 AI 추론 API로, 45개 이상의 오픈소스 모델에 대해 요청 기반 가격을 제공합니다.

Graphsignal은 프로덕션 규모의 추론 프로파일링 플랫폼으로, 엔지니어가 모델, 엔진, GPU 및 기타 가속기에서 AI 성능을 최적화할 수 있도록 지원합니다.

인터랙티브 시각적 미니 코스로, 'Attention Is All You Need' 논문을 기반으로 트랜스포머 아키텍처를 기본 원리부터 설명합니다.

무료 오픈소스 데스크톱 동반 앱으로, Mac/PC에서 개인 AI 백엔드를 실행하고 Tailscale을 통해 신뢰할 수 있는 HTTPS로 MyLLM iOS 앱을 연결합니다.

Quant Picker는 사용자의 하드웨어를 기반으로 품질, 컨텍스트 길이, 속도 간의 균형을 고려하여 LLM에 가장 적합한 GGUF 양자화를 선택할 수 있도록 도와줍니다.

ZeroGPU는 엣지 기반 네트워크를 통해 대규모 추론 작업을 특화된 소형 언어 모델로 라우팅하여 AI 애플리케이션과 에이전트의 비용을 절감하는 컴퓨팅 효율성 레이어입니다.

Anthropic의 Claude Fable 5는 코딩, 분석, 비전, 연구 분야에서 뛰어난 성능을 제공하는 최첨단 AI 언어 모델로, 고급 안전 분류기를 갖추고 있습니다.

Ollama는 대규모 언어 모델을 로컬에서 실행하고 클라우드로 확장할 수 있는 플랫폼으로, 병렬 요청 및 실시간 웹 정보를 통해 더 빠르고 더 큰 모델에 대한 액세스를 제공합니다.

대화, 코딩, 창작 작업을 위한 대규모 언어 모델 기반의 무료 AI 챗봇입니다.

Uncensored AI는 여러 주요 모델, 포함하여 검열이 완화된 변형 모델에 접근할 수 있는 AI 모델 허브이자 채팅 플랫폼이며, private-beta API도 제공합니다.

ApX Machine Learning은 머신러닝, LLM 및 실용적인 AI 엔지니어링을 배울 수 있는 교육 플랫폼으로, 강좌, 가이드, 도구 및 모델 순위를 제공합니다.

ChatHub는 하나의 앱에서 여러 주요 AI 모델의 응답을 나란히 비교할 수 있게 해줍니다.

Atlas Cloud는 채팅, 이미지, 비디오, 오디오 모델을 위한 하나의 API를 제공하는 풀 모달 AI 추론 플랫폼입니다.

CanIRun.ai는 기기 성능을 바탕으로 로컬 AI 모델을 내 기기에서 실행할 수 있는지 추정해 주는 브라우저 기반 도구입니다.

Groq는 GroqCloud와 자체 LPU 스택을 통해 빠르고 저렴한 AI 추론을 제공합니다.

Vast.ai는 온디맨드 컴퓨트를 임대할 수 있는 API 기반 GPU 클라우드로, 실시간 가격 책정과 초당 과금 방식을 제공합니다.

Arena AI는 모델 성능을 비교하고 추적하기 위한 공식 AI 모델 순위 및 LLM 리더보드 사이트입니다.

대규모 언어 모델을 위한 특화된 로컬 추론 엔진으로, Apple Silicon 및 SSD 스트리밍에 최적화되어 메모리가 제한된 시스템에서 작동합니다.

Project Panama를 통해 LLM, 비전 및 음성 파이프라인을 통합하는 Java용 통합 제로 할당 네이티브 AI 추론 런타임입니다.

의존성 없는 C 엔진으로, 디스크에서 전문가 가중치를 스트리밍하여 744B 매개변수 GLM-5.2 MoE 모델을 25GB RAM만으로 소비자 하드웨어에서 실행합니다.