AI API 介面
前往網站
Salad
Salad 是一個分散式 GPU 雲端服務,為 AI、推理、訓練及其他 GPU 密集型工作負載提供低成本、地理分散的運算資源。
Salad
Distributed GPU cloud for low-cost AI workloads
什麼是 Salad?
Salad 是一個分散式 GPU 雲端平台,讓使用者可存取遍布全球節點網路的大量消費級 GPU。它適用於 AI 推理、模型訓練、批次處理、渲染及其他 GPU 密集型工作負載,採用按使用量計費與基於容器的部署方式。
如何使用 Salad?
- 1建立 Salad 帳戶;若你需要高量折扣價格,可聯絡銷售。
- 2選擇符合工作負載需求的 GPU 類型與數量。
- 3將應用程式封裝為適用於 Salad Container Engine 的 Docker 容器。
- 4將工作負載部署到 SaladCloud,並監控可用性、擴展與中斷情況。
- 5隨需求變化進行擴容或縮容,無需管理個別 VM。
Salad 主要功能
- 具備地理分散節點的分散式 GPU 雲端
- 透過 Salad Container Engine 進行 Docker 容器部署
- 按使用量計費,起始價格低
- 支援大規模推理與批次工作負載
- 相容多雲部署
- 節點離線時自動重新分配工作負載
- 以加密容器提供安全隔離
- 無需管理 VM
Salad 使用情境
- 大規模 AI 推理
- 模型訓練與微調
- 文字轉圖像生成
- 語音轉文字轉錄
- 電腦視覺工作負載
- LLM 部署
- 批次處理與渲染
- HPC 風格 GPU 工作負載
Salad 價格與免費點數
Salad 目前採用 付費, 客製化定價 模式。
Salad 優缺點
優點
- GPU 起始價格非常低
- 大型分散式 GPU 網路
- 很適合可擴展的 AI 推理
- 以 Docker 為基礎的部署簡化設定
- 按使用量計費,無需預付款
缺點
- GPU 可用性可能像 spot 容量一樣中斷
- 冷啟動時間通常比一般雲端 GPU 更長
- 網路上最高 vRAM 限制為 24 GB
- 不適合極低延遲工作負載
Salad 最適合哪些用途?
- 需要低成本 GPU 推理的 AI 團隊
- 快速擴展模型工作負載的新創公司
- 部署容器化 GPU 應用的開發者
- 尋找大型雲端替代方案的企業
- 可容忍類似 spot 中斷的工作負載