最佳免費 AI 大型語言模型 (LLMs)工具

專為大型語言模型設計的本地推論引擎，針對 Apple Silicon 及記憶體受限系統上的 SSD 串流進行最佳化。

統一的零分配原生 AI 推理運行時，適用於 Java，通過 Project Panama 整合 LLM、視覺和語音管道。

一個無依賴的 C 引擎，從磁碟串流專家權重，可在消費級硬體上以僅 25 GB RAM 運行 744B 參數的 GLM-5.2 MoE 模型。

統一的AI閘道，透過一個符合GDPR的歐盟託管API，提供對300多種領先模型的存取，並相容於OpenAI SDK。

統一的 AI API 閘道，以實惠的價格提供頂級 LLM、圖片、影片和編碼模型的存取。

一款基於瀏覽器的工具，運用雅可比透鏡即時讀取語言模型的內部概念。

Frugon 是一個免費、開源的 LLM 成本分析工具，透過本地分析通話記錄，找出你的 LLM 帳單漏洞。

一個用於構建有狀態、多代理AI工作流程的Swift框架，具備型別安全工具、崩潰恢復能力和原生並發支援。

在您的Mac上本地運行任何LLM，比LM Studio或Ollama更快，支援聊天、編碼代理、圖片、影片和語音，完全離線且開源。

AXIOM 是一個可啟動的 Rust 核心，透過以推論專用原語取代通用作業系統抽象，最佳化 Transformer 推論。

專為大型語言模型設計的本地推論引擎，針對 Apple Silicon 及記憶體受限系統上的 SSD 串流進行最佳化。

統一的零分配原生 AI 推理運行時，適用於 Java，通過 Project Panama 整合 LLM、視覺和語音管道。

一個無依賴的 C 引擎，從磁碟串流專家權重，可在消費級硬體上以僅 25 GB RAM 運行 744B 參數的 GLM-5.2 MoE 模型。

統一的AI閘道，透過一個符合GDPR的歐盟託管API，提供對300多種領先模型的存取，並相容於OpenAI SDK。

一個統一的 API 平台，用於 LLM 推理，具備成本最佳化、路由、可觀測性和自動故障轉移功能。

統一的 AI API 閘道，以實惠的價格提供頂級 LLM、圖片、影片和編碼模型的存取。

一款基於瀏覽器的工具，運用雅可比透鏡即時讀取語言模型的內部概念。

Frugon 是一個免費、開源的 LLM 成本分析工具，透過本地分析通話記錄，找出你的 LLM 帳單漏洞。

一個用於構建有狀態、多代理AI工作流程的Swift框架，具備型別安全工具、崩潰恢復能力和原生並發支援。

在您的Mac上本地運行任何LLM，比LM Studio或Ollama更快，支援聊天、編碼代理、圖片、影片和語音，完全離線且開源。

AXIOM 是一個可啟動的 Rust 核心，透過以推論專用原語取代通用作業系統抽象，最佳化 Transformer 推論。

Lightning Rod 在混亂的真實世界數據上訓練小型 AI 模型，以預測體育、政治、金融等領域的結果，提供一個相較於前沿模型更具成本效益的替代方案。

一個聊天介面，讓您存取超過100個AI模型，自動為您的任務選擇最佳模型，同時追蹤能源使用並保護您的隱私。

NanoEuler 是一個完全用 C/CUDA 從頭建構的開源 GPT-2 風格語言模型，包含手寫反向傳播、BPE 分詞器、FlashAttention 和訓練管道。

一個使用 Linux 壓力停滯資訊在記憶體壓力下修剪 LLM KV 快取的參考實作。

Oxlo.ai 是一個隱私優先的 AI 推論 API，為超過 45 個開源模型提供按請求計價的方案。

Graphsignal 是一個生產規模的推論剖析平台，協助工程師在各種模型、引擎、GPU 及其他加速器上優化 AI 效能。

一個互動式視覺化微型課程，從基本原理解釋Transformer架構，基於《Attention Is All You Need》論文。

免費開源的桌面輔助工具，可在Mac/PC上運行私有AI後端，並透過Tailscale以受信任的HTTPS連接MyLLM iOS應用程式。

Quant Picker 幫助您根據硬體選擇最佳 GGUF 量化水平，平衡品質、上下文長度和速度。

ZeroGPU 是一個計算效率層，透過邊緣運算網絡將大量推理任務路由至專門的小型語言模型，幫助 AI 應用和代理降低成本。

Anthropic 的 Claude 寓言 5 是一款最先進的 AI 語言模型，在程式碼編寫、分析、視覺和研究中表現卓越，並具備先進的安全分類器。

Ollama 是一個平台，用於在本機上執行大型語言模型，並可擴展至雲端，提供更快、更大的模型，支援並行請求與即時網路資訊。

一個免費的AI聊天機器人，由大型語言模型驅動，用於對話、編碼和創意任務。

Uncensored AI 是一個 AI 模型中心與聊天平台，提供多個主流模型的存取，包括 uncensored 變體，以及供私人測試版使用的 API。

ApX Machine Learning 是一個教育平台，透過課程、指南、工具和模型排名，提供機器學習、大型語言模型和實用 AI 工程的學習資源。

ChatHub 讓你在同一個應用程式中並排比較多個領先 AI 模型的回應。

Atlas Cloud 是一個全模態 AI 推論平台，為聊天、圖片、影片與音訊模型提供單一 API。

一個以瀏覽器為基礎的工具，可根據裝置能力估算你的電腦能執行哪些本地 AI 模型。

Groq 透過 GroqCloud 以及其自訂 LPU 堆疊，提供快速、低成本的 AI 推論。

Vast.ai 是一個 API 原生的 GPU 雲端平台，提供按需租用運算資源、即時定價與按秒計費。

Arena AI 是一個官方 AI 模型排名與 LLM 排行榜網站，用於比較與追蹤模型表現。

專為大型語言模型設計的本地推論引擎，針對 Apple Silicon 及記憶體受限系統上的 SSD 串流進行最佳化。

統一的零分配原生 AI 推理運行時，適用於 Java，通過 Project Panama 整合 LLM、視覺和語音管道。

一個無依賴的 C 引擎，從磁碟串流專家權重，可在消費級硬體上以僅 25 GB RAM 運行 744B 參數的 GLM-5.2 MoE 模型。