AI API 介面
Salad
Salad 是一個分散式 GPU 雲端服務，為 AI、推理、訓練及其他 GPU 密集型工作負載提供低成本、地理分散的運算資源。
Salad
什麼是 Salad？
Salad 是一個分散式 GPU 雲端平台，讓使用者可存取遍布全球節點網路的大量消費級 GPU。它適用於 AI 推理、模型訓練、批次處理、渲染及其他 GPU 密集型工作負載，採用按使用量計費與基於容器的部署方式。
Salad 與相似工具比較
| 計價模式 | 付費, 客製化定價 | 免費, Freemium | 免費, 免費試用, 客製化定價 | 免費, Freemium |
| 免費額度 | ||||
| 主要功能 |
|
|
|
|
| 優點 |
|
|
|
|
| 缺點 |
|
|
|
|
| 適合對象 |
|
|
|
|
如何使用 Salad？
- 1建立 Salad 帳戶；若你需要高量折扣價格，可聯絡銷售。
- 2選擇符合工作負載需求的 GPU 類型與數量。
- 3將應用程式封裝為適用於 Salad Container Engine 的 Docker 容器。
- 4將工作負載部署到 SaladCloud，並監控可用性、擴展與中斷情況。
- 5隨需求變化進行擴容或縮容，無需管理個別 VM。
Salad 主要功能
- 具備地理分散節點的分散式 GPU 雲端
- 透過 Salad Container Engine 進行 Docker 容器部署
- 按使用量計費，起始價格低
- 支援大規模推理與批次工作負載
- 相容多雲部署
- 節點離線時自動重新分配工作負載
- 以加密容器提供安全隔離
- 無需管理 VM
Salad 使用情境
- 大規模 AI 推理
- 模型訓練與微調
- 文字轉圖像生成
- 語音轉文字轉錄
- 電腦視覺工作負載
- LLM 部署
- 批次處理與渲染
- HPC 風格 GPU 工作負載
Salad 價格與免費點數
Salad 目前採用 付費, 客製化定價 模式。
免費方案
GPU Cloud Usage
From $0.02/hour
平台所標示的 GPU 起始價格；實際費用會依 GPU 類型與工作負載而異。
LLM Deployment
From $0.04/hr
平台上部署 LLM 所顯示的起始價格。
Text-to-Speech
From $0.10/hour
文字轉語音相關工作負載所顯示的起始價格。
付費方案
Sales Pricing
Contact for Pricing
若有超過 10 張 GPU、長時間執行工作或承諾合約，可提供折扣價格。
Salad 優缺點
優點
- GPU 起始價格非常低
- 大型分散式 GPU 網路
- 很適合可擴展的 AI 推理
- 以 Docker 為基礎的部署簡化設定
- 按使用量計費，無需預付款
缺點
- GPU 可用性可能像 spot 容量一樣中斷
- 冷啟動時間通常比一般雲端 GPU 更長
- 網路上最高 vRAM 限制為 24 GB
- 不適合極低延遲工作負載
Salad 最適合哪些用途？
- 需要低成本 GPU 推理的 AI 團隊
- 快速擴展模型工作負載的新創公司
- 部署容器化 GPU 應用的開發者
- 尋找大型雲端替代方案的企業
- 可容忍類似 spot 中斷的工作負載
Salad 常見問題
Salad 的免費替代工具
統一的AI閘道，透過一個符合GDPR的歐盟託管API，提供對300多種領先模型的存取，並相容於OpenAI SDK。
免費
統一的 AI API 閘道，以實惠的價格提供頂級 LLM、圖片、影片和編碼模型的存取。
免費
一個免費的AI音樂生成器和音樂影片製作器，可創作任何類型的原創歌曲，並將其轉變為具有同步視覺效果的驚艷音樂影片。
免費
針對AI代理的即時事件監控基礎設施，提供低延遲數據串流和Webhook通知以觸發自動化工作流程。
免費
Salad 的最佳替代 AI 工具
Loomal 是代理商務的支付層，讓您可以為任何 API 或商店添加付費牆，使 AI 代理能以 USDC 自動支付。
一個雲端 iOS 發布管道，讓 AI 代理無需 Mac 即可構建、簽署並提交應用程式到 TestFlight 和 App Store。
