AI API 介面

Salad

Salad 是一個分散式 GPU 雲端服務,為 AI、推理、訓練及其他 GPU 密集型工作負載提供低成本、地理分散的運算資源。

什麼是 Salad?

Salad 是一個分散式 GPU 雲端平台,讓使用者可存取遍布全球節點網路的大量消費級 GPU。它適用於 AI 推理、模型訓練、批次處理、渲染及其他 GPU 密集型工作負載,採用按使用量計費與基於容器的部署方式。

Salad 與相似工具比較

計價模式付費, 客製化定價客製化定價免費免費
免費額度
主要功能
  • 具備地理分散節點的分散式 GPU 雲端
  • 透過 Salad Container Engine 進行 Docker 容器部署
  • 按使用量計費,起始價格低
  • 企業級執行環境,具備高可用性
  • 靈活的身分驗證與存取(SAML、OAuth)
  • 租戶隔離:獨立執行環境、憑證與稽核軌跡
  • 模擬 Ollama、OpenAI 和 llama.cpp API
  • 透明轉發至 NVIDIA 的 OpenAI 相容 API
  • 可選的回應快取,支援可設定的 TTL 和大小
  • AI 代理的透明憑證注入
  • AES-256-GCM 加密的靜態機密儲存
  • 主機與路徑比對,將機密路由至端點
優點
  • GPU 起始價格非常低
  • 大型分散式 GPU 網路
  • 內建企業級安全與治理
  • 為 SaaS 提供者提供多租戶隔離
  • 輕量級且易於透過 Docker 部署
  • 快取回應以減少 API 呼叫和延遲
  • 開源且可自架,完全掌控憑證
  • 一鍵安裝或透過 Docker 輕鬆設定
缺點
  • GPU 可用性可能像 spot 容量一樣中斷
  • 冷啟動時間通常比一般雲端 GPU 更長
  • 定價不透明,需聯絡業務人員
  • 需要技術專業知識來設定與配置工作流程
  • 僅轉發至 NVIDIA 的 API,不支援其他雲端提供者
  • 需要有效的 NVIDIA API 金鑰
  • 預設僅限單使用者本機模式;OAuth 設定需要額外配置
  • 需要自架基礎架構(Docker/PostgreSQL)
適合對象
  • 需要低成本 GPU 推理的 AI 團隊
  • 快速擴展模型工作負載的新創公司
  • 需要安全且可治理的整合平台之企業
  • 需要為客戶提供多租戶整合的 SaaS 公司
  • 將 NVIDIA LLM 整合至現有工作流程的開發者
  • 希望利用 NVIDIA 模型的 Open WebUI、curl 或 SDK 使用者
  • 需要安全 API 存取的 AI 代理開發者
  • 管理多個不同憑證範圍的 AI 代理部署的團隊

如何使用 Salad?

  1. 1建立 Salad 帳戶;若你需要高量折扣價格,可聯絡銷售。
  2. 2選擇符合工作負載需求的 GPU 類型與數量。
  3. 3將應用程式封裝為適用於 Salad Container Engine 的 Docker 容器。
  4. 4將工作負載部署到 SaladCloud,並監控可用性、擴展與中斷情況。
  5. 5隨需求變化進行擴容或縮容,無需管理個別 VM。

Salad 主要功能

  • 具備地理分散節點的分散式 GPU 雲端
  • 透過 Salad Container Engine 進行 Docker 容器部署
  • 按使用量計費,起始價格低
  • 支援大規模推理與批次工作負載
  • 相容多雲部署
  • 節點離線時自動重新分配工作負載
  • 以加密容器提供安全隔離
  • 無需管理 VM

Salad 使用情境

  • 大規模 AI 推理
  • 模型訓練與微調
  • 文字轉圖像生成
  • 語音轉文字轉錄
  • 電腦視覺工作負載
  • LLM 部署
  • 批次處理與渲染
  • HPC 風格 GPU 工作負載

Salad 價格與免費點數

Salad 目前採用 付費, 客製化定價 模式。

免費方案

GPU Cloud Usage

From $0.02/hour

平台所標示的 GPU 起始價格;實際費用會依 GPU 類型與工作負載而異。

LLM Deployment

From $0.04/hr

平台上部署 LLM 所顯示的起始價格。

Text-to-Speech

From $0.10/hour

文字轉語音相關工作負載所顯示的起始價格。

付費方案

Sales Pricing

Contact for Pricing

若有超過 10 張 GPU、長時間執行工作或承諾合約,可提供折扣價格。

GPU Cloud Usage

From $0.02/hour

平台所標示的 GPU 起始價格;實際費用會依 GPU 類型與工作負載而異。

LLM Deployment

From $0.04/hr

平台上部署 LLM 所顯示的起始價格。

Text-to-Speech

From $0.10/hour

文字轉語音相關工作負載所顯示的起始價格。

Sales Pricing

Contact for Pricing

若有超過 10 張 GPU、長時間執行工作或承諾合約,可提供折扣價格。

Salad 優缺點

優點

  • GPU 起始價格非常低
  • 大型分散式 GPU 網路
  • 很適合可擴展的 AI 推理
  • 以 Docker 為基礎的部署簡化設定
  • 按使用量計費,無需預付款

缺點

  • GPU 可用性可能像 spot 容量一樣中斷
  • 冷啟動時間通常比一般雲端 GPU 更長
  • 網路上最高 vRAM 限制為 24 GB
  • 不適合極低延遲工作負載

Salad 最適合哪些用途?

  • 需要低成本 GPU 推理的 AI 團隊
  • 快速擴展模型工作負載的新創公司
  • 部署容器化 GPU 應用的開發者
  • 尋找大型雲端替代方案的企業
  • 可容忍類似 spot 中斷的工作負載

Salad 常見問題

Salad 的免費替代工具

YAFL logo

一個以代理為優先的檔案傳輸工具,讓AI代理之間透過MCP呼叫安全加密共享檔案,無需人工介入。

免費
TwelveLabs logo

TwelveLabs 是一個影片智慧平台,讓開發者能夠透過 API 使用強大的 AI 模型來搜尋、分析和理解影片內容。

免費
Agentcard logo

Agentcard 為 AI 代理提供友善的卡片發行與支付基礎設施,支援 5 分鐘設定與自主購物。

免費
Opper AI logo

統一的AI閘道,透過一個符合GDPR的歐盟託管API,提供對300多種領先模型的存取,並相容於OpenAI SDK。

免費
D

Dike 是歐盟 AI 產品的合規閘道,透過簡單的代理伺服器提供稽核等級的日誌記錄、人為監督和事件通報功能。

免費
Music0 AI logo

一個免費的AI音樂生成器和音樂影片製作器,可創作任何類型的原創歌曲,並將其轉變為具有同步視覺效果的驚艷音樂影片。

免費
XSDR logo

針對AI代理的即時事件監控基礎設施,提供低延遲數據串流和Webhook通知以觸發自動化工作流程。

免費

Salad 的最佳替代 AI 工具

Koodisi logo

Koodisi 是一個企業級 iPaaS 與工作流程自動化平台,可連接 API、MCP 伺服器與 AI 代理,並內建安全性、治理與租戶隔離功能。

llmproxy logo

一個輕量級、高效能的 LLM 代理,用於快取、容錯、成本追蹤,以及本地與雲端 AI 提供者之間的無縫整合。

OneCLI logo

開源憑證閘道與機密儲存庫,讓 AI 代理無需暴露金鑰即可存取 API。

YAFL logo

一個以代理為優先的檔案傳輸工具,讓AI代理之間透過MCP呼叫安全加密共享檔案,無需人工介入。

免費
Millwright logo

Millwright 是一個開源、自託管的 LLM 路由器,根據政策將 AI 請求路由至成本最低的模型提供者,同時保留提示快取並控管花費。

TwelveLabs logo

TwelveLabs 是一個影片智慧平台,讓開發者能夠透過 API 使用強大的 AI 模型來搜尋、分析和理解影片內容。

免費
FlexInference logo

一個具備截止時間感知的LLM路由器,能在使用者指定的時間視窗內自動尋找更便宜的服務層級,以降低AI推論成本。

Agentcard logo

Agentcard 為 AI 代理提供友善的卡片發行與支付基礎設施,支援 5 分鐘設定與自主購物。

免費