AI API 接口
Salad
Salad 是一个分布式 GPU 云，提供低成本、地理分布式计算，适用于 AI、推理、训练以及其他 GPU 密集型工作负载。
Salad
什么是 Salad？
Salad 是一个分布式 GPU 云平台，可通过全球节点网络访问大量消费级 GPU。它面向 AI 推理、模型训练、批处理、渲染以及其他 GPU 密集型工作负载，采用按量计费和基于容器的部署方式。
如何使用 Salad？
- 1创建 Salad 账户，如需折扣的大批量价格可联系销售。
- 2选择适合你工作负载的 GPU 类型和数量。
- 3将你的应用打包为适用于 Salad Container Engine 的 Docker 容器。
- 4将工作负载部署到 SaladCloud，并监控可用性、扩缩容和中断情况。
- 5随着需求变化进行扩容或缩容，无需管理单独的 VM。
Salad 主要功能
- 具备地理分布节点的分布式 GPU 云
- 通过 Salad Container Engine 进行 Docker 容器部署
- 按量计费，起始价格较低
- 支持大规模推理和批处理工作负载
- 兼容多云部署
- 节点离线时自动重新分配工作负载
- 通过加密容器实现安全隔离
- 无需管理 VM
Salad 使用场景
- 大规模 AI 推理
- 模型训练与微调
- 文生图生成
- 语音转文字转录
- 计算机视觉工作负载
- LLM 部署
- 批处理与渲染
- HPC 风格 GPU 工作负载
Salad 价格与免费额度
Salad 目前采用 付费, 定制定价 模式。
Salad 优缺点
优点
- GPU 起始价格非常低
- 分布式 GPU 网络规模大
- 非常适合可扩展的 AI 推理
- 基于 Docker 的部署简化设置
- 按量计费，无需预付款
缺点
- GPU 可用性可能像 spot 容量一样中断
- 冷启动时间通常比常规云 GPU 更长
- 网络上的最高 vRAM 仅限于 24 GB
- 不适合超低延迟工作负载
Salad 最适合哪些用途？
- 需要低成本 GPU 推理的 AI 团队
- 快速扩展模型工作负载的初创公司
- 部署容器化 GPU 应用的开发者
- 寻求比大型云更便宜替代方案的企业
- 能够容忍类似 spot 中断的工作负载
Salad 常见问题
Salad 的免费替代工具
Uncensored AI 是一个 AI 模型中心和聊天平台，提供对多个主流模型的访问，包括 uncensored 变体，以及一个 private-beta API。
