最佳免费 AI 大语言模型 (LLM)工具

一个专门用于大型语言模型的本地推理引擎，针对Apple Silicon和内存受限系统上的SSD流式处理进行了优化。

统一的零分配原生AI推理运行时，专为Java设计，通过Project Panama整合LLM、视觉和语音管道。

一个无依赖的C引擎，从磁盘流式传输专家权重，以在消费级硬件上运行744B参数的GLM-5.2 MoE模型，仅需25 GB RAM。

一个统一的AI网关，通过一个欧盟托管、符合GDPR的API提供300多个领先模型的访问，并兼容OpenAI SDK的接口。

统一AI API网关，以实惠价格提供顶级LLM、图像、视频和编程模型。

一款基于浏览器的工具，利用雅可比透镜实时读取语言模型的内部概念。

Frugon 是一个免费、开源的 LLM 成本分析工具，通过本地分析您的调用日志，识别出您的 LLM 账单在哪里产生不必要的花费。

一个用于构建有状态、多智能体AI工作流的Swift框架，具有类型安全工具、崩溃恢复和原生并发支持。

在你的Mac上本地运行任何LLM，比LM Studio或Ollama更快，支持聊天、编码智能体、图像、视频和语音，完全离线且开源。

AXIOM 是一个可引导的 Rust 内核，通过用推理专用原语替换通用操作系统抽象来优化 Transformer 推理。

一个专门用于大型语言模型的本地推理引擎，针对Apple Silicon和内存受限系统上的SSD流式处理进行了优化。

统一的零分配原生AI推理运行时，专为Java设计，通过Project Panama整合LLM、视觉和语音管道。

一个无依赖的C引擎，从磁盘流式传输专家权重，以在消费级硬件上运行744B参数的GLM-5.2 MoE模型，仅需25 GB RAM。

一个统一的AI网关，通过一个欧盟托管、符合GDPR的API提供300多个领先模型的访问，并兼容OpenAI SDK的接口。

用于LLM推理的统一API平台，具有成本优化、路由、可观测性和自动故障转移功能。

统一AI API网关，以实惠价格提供顶级LLM、图像、视频和编程模型。

一款基于浏览器的工具，利用雅可比透镜实时读取语言模型的内部概念。

Frugon 是一个免费、开源的 LLM 成本分析工具，通过本地分析您的调用日志，识别出您的 LLM 账单在哪里产生不必要的花费。

一个用于构建有状态、多智能体AI工作流的Swift框架，具有类型安全工具、崩溃恢复和原生并发支持。

在你的Mac上本地运行任何LLM，比LM Studio或Ollama更快，支持聊天、编码智能体、图像、视频和语音，完全离线且开源。

AXIOM 是一个可引导的 Rust 内核，通过用推理专用原语替换通用操作系统抽象来优化 Transformer 推理。

Lightning Rod 在混乱的现实世界数据上训练小型AI模型，用于预测体育、政治、金融等领域的结果，提供一种成本效益高的前沿模型替代方案。

一个聊天气泡界面，即可访问超过100个AI模型，自动为您的任务选择最佳模型，同时跟踪能源使用并保护您的隐私。

NanoEuler 是一个完全用 C/CUDA 编写的开源 GPT-2 风格语言模型，包括手写反向传播、BPE 分词器、FlashAttention 和训练流水线。

使用Linux压力失速信息在内存压力下修剪LLM KV缓存的参考实现。

Oxlo.ai 是一个隐私优先的 AI 推理 API，为超过 45 个开源模型提供按请求计费的定价。

Graphsignal 是一个生产级推理性能分析平台，帮助工程师跨模型、引擎、GPU 及其他加速器优化 AI 性能。

一个交互式可视化微课程，从基本原理出发解释Transformer架构，基于《Attention Is All You Need》论文。

免费开源桌面伴侣，在Mac/PC上运行私有AI后端，并通过Tailscale通过可信HTTPS连接MyLLM iOS应用。

Quant Picker 帮助您根据硬件条件，在质量、上下文长度和速度之间取得平衡，为您的 LLM 选择最佳的 GGUF 量化方案。

ZeroGPU 是一个计算效率层，通过边缘驱动网络将高吞吐量推理任务路由到专门的小语言模型，帮助 AI 应用和智能体降低成本。

Anthropic的Claude Fable 5是一款最先进的AI语言模型，在编程、分析、视觉和研究方面表现出色，并配备先进的安全分类器。

Ollama 是一个用于本地运行大规模语言模型并可扩展至云端的平台，提供更快速、更大模型的服务，支持并行请求和实时网络信息。

一个由大型语言模型驱动的免费AI聊天机器人，用于对话、编程和创意任务。

Uncensored AI 是一个 AI 模型中心和聊天平台，提供对多个主流模型的访问，包括 uncensored 变体，以及一个 private-beta API。

ApX Machine Learning 是一个教育平台，通过课程、指南、工具和模型排行榜，帮助学习机器学习、大型语言模型和实际AI工程。

ChatHub 让你在一个应用中并排比较多个领先 AI 模型的回答。

Atlas Cloud 是一个全模态 AI 推理平台，为 chat、image、video 和 audio 模型提供一个 API。

一个基于浏览器的工具，可根据设备能力估算你的机器可以运行哪些本地 AI 模型。

Groq 通过 GroqCloud 和其定制 LPU 技术栈，提供快速、低成本的 AI 推理服务。

Vast.ai 是一个 API 原生的 GPU 云平台，可按需租用计算资源，支持实时定价和按秒计费。

Arena AI 是一个官方 AI 模型排名和 LLM 排行榜网站，用于比较和跟踪模型性能。

一个专门用于大型语言模型的本地推理引擎，针对Apple Silicon和内存受限系统上的SSD流式处理进行了优化。

统一的零分配原生AI推理运行时，专为Java设计，通过Project Panama整合LLM、视觉和语音管道。

一个无依赖的C引擎，从磁盘流式传输专家权重，以在消费级硬件上运行744B参数的GLM-5.2 MoE模型，仅需25 GB RAM。