Inference 免費 AI 工具

Runpod 是一個 AI 開發者雲端平台，可用來啟動 GPU pods、serverless endpoints 和 clusters，以建置並擴展 AI 工作負載。

Lightning AI 是一個 AI 雲端平台，用於建構、訓練與部署模型，並提供受管理的 GPU、notebooks、clusters 與推理工具。

SiliconFlow 是一個 AI 雲端平台，透過單一 OpenAI-compatible API 提供 LLMs 與 multimodal models 的高速推理、部署與 fine-tuning。

Nebius 是一個 AI 雲端平台，提供 GPU 基礎架構、代管服務，以及用於訓練與推論工作負載的 Token Factory。

Fireworks AI 是一個生成式 AI 平台，提供快速推理、模型託管、微調，以及可擴充的開放模型部署。

Groq 透過 GroqCloud 以及其自訂 LPU 堆疊，提供快速、低成本的 AI 推論。

Vast.ai 是一個 API 原生的 GPU 雲端平台，提供按需租用運算資源、即時定價與按秒計費。

Modal 是一個高效能的 AI 基礎架構平台，可用於執行 inference、training、batch jobs 與 sandboxes，並支援即時 autoscaling。