AI 模型与代理

最佳免费 AI 开源模型工具

探索 20 款 AI 开源模型工具。95% 提供免费方案、免费试用或免费额度。推荐工具:Wolbarg, LibArgus, Osaurus。最后更新:2026/7/21。

20 款工具95% 有免费额度

20

20 款工具

19

免费

1

Freemium

1

免费试用

此分类中附有免费额度或免费方案的最佳免费 AI 工具。

Wolbarg logo

Wolbarg 是一个本地优先的 TypeScript SDK,为 AI 代理提供使用 SQLite 或 PostgreSQL 的共享语义记忆。

LibArgus logo

统一的零分配原生AI推理运行时,专为Java设计,通过Project Panama整合LLM、视觉和语音管道。

Osaurus logo

Osaurus 是一款专为 Mac 设计的私密本地 AI 助手,可在设备上运行开源模型,并可选云 AI 访问和自主代理。

Reame logo

一个精简、经过充分测试的 LLM 推理服务器,专为廉价 CPU 硬件设计,具有持久缓存和 OpenAI 兼容的 API。

colibri logo

一个无依赖的C引擎,从磁盘流式传输专家权重,以在消费级硬件上运行744B参数的GLM-5.2 MoE模型,仅需25 GB RAM。

Frugon logo

Frugon 是一个免费、开源的 LLM 成本分析工具,通过本地分析您的调用日志,识别出您的 LLM 账单在哪里产生不必要的花费。

Branchless NCCL Router logo

一款面向32-GPU分布式网格网络的无分支、零抖动入站路由器,利用JAX/XLA和NCCL。

Skeights logo

Skeights 将训练好的 scikit-learn 模型序列化为 safetensors 和 JSON 格式,用安全、可检查的格式替代不安全的 pickle。

AXIOM logo

AXIOM 是一个可引导的 Rust 内核,通过用推理专用原语替换通用操作系统抽象来优化 Transformer 推理。

热门免费 AI 开源模型工具

所有工具
Wolbarg logo

Wolbarg 是一个本地优先的 TypeScript SDK,为 AI 代理提供使用 SQLite 或 PostgreSQL 的共享语义记忆。

LibArgus logo

统一的零分配原生AI推理运行时,专为Java设计,通过Project Panama整合LLM、视觉和语音管道。

Osaurus logo

Osaurus 是一款专为 Mac 设计的私密本地 AI 助手,可在设备上运行开源模型,并可选云 AI 访问和自主代理。

Reame logo

一个精简、经过充分测试的 LLM 推理服务器,专为廉价 CPU 硬件设计,具有持久缓存和 OpenAI 兼容的 API。

colibri logo

一个无依赖的C引擎,从磁盘流式传输专家权重,以在消费级硬件上运行744B参数的GLM-5.2 MoE模型,仅需25 GB RAM。

Frugon logo

Frugon 是一个免费、开源的 LLM 成本分析工具,通过本地分析您的调用日志,识别出您的 LLM 账单在哪里产生不必要的花费。

Branchless NCCL Router logo

一款面向32-GPU分布式网格网络的无分支、零抖动入站路由器,利用JAX/XLA和NCCL。

Skeights logo

Skeights 将训练好的 scikit-learn 模型序列化为 safetensors 和 JSON 格式,用安全、可检查的格式替代不安全的 pickle。

AXIOM logo

AXIOM 是一个可引导的 Rust 内核,通过用推理专用原语替换通用操作系统抽象来优化 Transformer 推理。

NanoEuler logo

NanoEuler 是一个完全用 C/CUDA 编写的开源 GPT-2 风格语言模型,包括手写反向传播、BPE 分词器、FlashAttention 和训练流水线。

autofit2 logo

自动化端到端少样本文本分类流水线,支持50多种语言,基于SetFit和SBERT嵌入。

Oxlo.ai logo

Oxlo.ai 是一个隐私优先的 AI 推理 API,为超过 45 个开源模型提供按请求计费的定价。

免费
PII GUI logo

PII GUI 是一款本地优先的桌面应用程序,用于使用正则表达式和设备内置 ONNX 模型检测和编校文档中的个人信息。

galdor logo

一个Go原生框架,用于构建、编排和监控AI代理,具有原生的OpenTelemetry可观测性和自托管仪表盘。

Ollama logo

Ollama 是一个用于本地运行大规模语言模型并可扩展至云端的平台,提供更快速、更大模型的服务,支持并行请求和实时网络信息。

Jan logo

Jan是一款开源、本地优先的AI聊天应用,可作为私密版ChatGPT替代品。

Fireworks AI logo

Fireworks AI 是一个生成式 AI 平台,提供快速推理、模型托管、微调以及可扩展的开放模型部署能力。

PixaryAI logo

PixaryAI 是一款在线 AI 视频生成器,可通过基于浏览器的控制,从文本提示或图片创建视频。

免费

最新 AI 开源模型工具

目录中最新添加的 AI 开源模型工具。

Wolbarg logo

Wolbarg 是一个本地优先的 TypeScript SDK,为 AI 代理提供使用 SQLite 或 PostgreSQL 的共享语义记忆。

LibArgus logo

统一的零分配原生AI推理运行时,专为Java设计,通过Project Panama整合LLM、视觉和语音管道。

Osaurus logo

Osaurus 是一款专为 Mac 设计的私密本地 AI 助手,可在设备上运行开源模型,并可选云 AI 访问和自主代理。

AI 开源模型工具 的热门使用场景

20 个 AI 开源模型工具 共同的使用场景。

多代理协作与共享记忆AI 助手的持久化知识存储对代理学习内容进行语义搜索在Java中构建低延迟AI聊天机器人和虚拟助手开发处理文本、图像、音频和视频的多模态应用程序为企业应用创建语音转文本和文本转语音管道为高频交易或实时系统实现零GC模型推理使用Java绑定研究和部署自定义LLM

AI 开源模型工具 常见功能

AI 开源模型工具 中最常提供的功能一览。

本地优先存储,无需托管的向量 SaaS通过自然语言查询进行语义回忆支持多代理安全的并发写入支持 SQLite 和 PostgreSQL 后端小巧的 API,包含 remember、recall、compress、forget、history、stats零基础设施开销使用Project Panama FFM API实现零分配推理统一的LLM、ASR、TTS和多模态模型运行时进程全局后端消除VRAM碎片分离的权重和执行以实现并发会话支持推测解码和多Token预测KV缓存量化(Q8_0、Q4_0等)

免费 AI 开源模型工具 常见问题

比较工具是完全免费、Freemium 还是试用型,再查看功能、用途、价格和替代选项。

相关 AI 分类

在相近分类中发现更多免费 AI 软件。

分类