AI API 接口

Salad

Salad 是一个分布式 GPU 云,提供低成本、地理分布式计算,适用于 AI、推理、训练以及其他 GPU 密集型工作负载。

什么是 Salad?

Salad 是一个分布式 GPU 云平台,可通过全球节点网络访问大量消费级 GPU。它面向 AI 推理、模型训练、批处理、渲染以及其他 GPU 密集型工作负载,采用按量计费和基于容器的部署方式。

Salad 与相似工具比较

计价模式付费, 定制定价定制定价免费免费
免费额度
主要功能
  • 具备地理分布节点的分布式 GPU 云
  • 通过 Salad Container Engine 进行 Docker 容器部署
  • 按量计费,起始价格较低
  • 企业级运行时,高可用性
  • 灵活的标识与访问管理(SAML、OAuth)
  • 租户隔离,具有独立的运行时、凭据和审计跟踪
  • 模拟Ollama、OpenAI和llama.cpp的API
  • 透明转发到NVIDIA的OpenAI兼容API
  • 可选响应缓存,可配置TTL和大小
  • AI代理的透明凭证注入
  • AES-256-GCM加密的静态机密存储
  • 基于主机和路径匹配的路由机密到端点
优点
  • GPU 起始价格非常低
  • 分布式 GPU 网络规模大
  • 内置企业级安全性和治理
  • 为 SaaS 提供商提供多租户隔离
  • 轻量且易于通过Docker部署
  • 缓存响应以减少API调用和延迟
  • 开源且自托管,完全控制凭证
  • 一键安装或Docker即可轻松部署
缺点
  • GPU 可用性可能像 spot 容量一样中断
  • 冷启动时间通常比常规云 GPU 更长
  • 定价不透明,需联系销售
  • 需要专业技术知识来设置和配置工作流
  • 仅转发到NVIDIA的API,不支持其他云提供商
  • 需要有效的NVIDIA API密钥
  • 默认仅限单用户本地模式;OAuth设置需额外配置
  • 需要自托管基础设施(Docker/PostgreSQL)
适合对象
  • 需要低成本 GPU 推理的 AI 团队
  • 快速扩展模型工作负载的初创公司
  • 需要安全、可治理的集成平台的企业
  • 需要为客户提供多租户集成的 SaaS 公司
  • 将NVIDIA LLM集成到现有工作流程中的开发者
  • 使用Open WebUI、curl或SDK并希望利用NVIDIA模型的用户
  • 需要安全API访问的AI代理开发者
  • 管理多个AI代理部署及不同凭证作用域的团队

如何使用 Salad?

  1. 1创建 Salad 账户,如需折扣的大批量价格可联系销售。
  2. 2选择适合你工作负载的 GPU 类型和数量。
  3. 3将你的应用打包为适用于 Salad Container Engine 的 Docker 容器。
  4. 4将工作负载部署到 SaladCloud,并监控可用性、扩缩容和中断情况。
  5. 5随着需求变化进行扩容或缩容,无需管理单独的 VM。

Salad 主要功能

  • 具备地理分布节点的分布式 GPU 云
  • 通过 Salad Container Engine 进行 Docker 容器部署
  • 按量计费,起始价格较低
  • 支持大规模推理和批处理工作负载
  • 兼容多云部署
  • 节点离线时自动重新分配工作负载
  • 通过加密容器实现安全隔离
  • 无需管理 VM

Salad 使用场景

  • 大规模 AI 推理
  • 模型训练与微调
  • 文生图生成
  • 语音转文字转录
  • 计算机视觉工作负载
  • LLM 部署
  • 批处理与渲染
  • HPC 风格 GPU 工作负载

Salad 价格与免费额度

Salad 目前采用 付费, 定制定价 模式。

免费方案

GPU Cloud Usage

From $0.02/hour

平台宣传的 GPU 起始价格;实际费用会因 GPU 类型和工作负载而异。

LLM Deployment

From $0.04/hr

平台上部署 LLM 的显示起始价格。

Text-to-Speech

From $0.10/hour

与文本转语音相关工作负载的显示起始价格。

付费方案

Sales Pricing

Contact for Pricing

针对超过 10 GPUs、长时间运行任务以及签约合同可提供折扣价格。

GPU Cloud Usage

From $0.02/hour

平台宣传的 GPU 起始价格;实际费用会因 GPU 类型和工作负载而异。

LLM Deployment

From $0.04/hr

平台上部署 LLM 的显示起始价格。

Text-to-Speech

From $0.10/hour

与文本转语音相关工作负载的显示起始价格。

Sales Pricing

Contact for Pricing

针对超过 10 GPUs、长时间运行任务以及签约合同可提供折扣价格。

Salad 优缺点

优点

  • GPU 起始价格非常低
  • 分布式 GPU 网络规模大
  • 非常适合可扩展的 AI 推理
  • 基于 Docker 的部署简化设置
  • 按量计费,无需预付款

缺点

  • GPU 可用性可能像 spot 容量一样中断
  • 冷启动时间通常比常规云 GPU 更长
  • 网络上的最高 vRAM 仅限于 24 GB
  • 不适合超低延迟工作负载

Salad 最适合哪些用途?

  • 需要低成本 GPU 推理的 AI 团队
  • 快速扩展模型工作负载的初创公司
  • 部署容器化 GPU 应用的开发者
  • 寻求比大型云更便宜替代方案的企业
  • 能够容忍类似 spot 中断的工作负载

Salad 常见问题

Salad 的免费替代工具

YAFL logo

一种以智能体为先的文件传输工具,通过MCP调用在AI智能体之间实现安全加密的文件共享,无需人类参与。

免费
TwelveLabs logo

TwelveLabs 是一个视频智能平台,使开发者能够通过 API 使用强大的 AI 模型搜索、分析和理解视频内容。

免费
Agentcard logo

Agentcard 为 AI 代理提供友好的发卡和支付基础设施,实现五分钟设置和自主购买。

免费
Opper AI logo

一个统一的AI网关,通过一个欧盟托管、符合GDPR的API提供300多个领先模型的访问,并兼容OpenAI SDK的接口。

免费
D

Dike是一个面向欧盟AI产品的合规网关,通过简单的代理提供审计级日志记录、人工监督和事件报告。

免费
Music0 AI logo

一款免费的AI音乐生成器和音乐视频制作工具,可创建任意流派的原创歌曲,并将其转化为带有同步视觉效果的惊艳音乐视频。

免费
XSDR logo

为AI代理提供实时事件监控基础设施,传输低延迟数据流和Webhook通知,以触发自动化工作流。

免费

Salad 的最佳替代 AI 工具

Koodisi logo

Koodisi 是一款企业级 iPaaS 和工作流自动化平台,可连接 API、MCP 服务器和 AI 代理,并具备内置的安全性、治理和租户隔离功能。

llmproxy logo

一个轻量级高性能LLM代理,用于缓存、故障转移、成本跟踪,并在本地和云端AI提供商之间无缝集成。

OneCLI logo

开源凭证网关与机密存储,让AI代理无需暴露密钥即可访问API。

YAFL logo

一种以智能体为先的文件传输工具,通过MCP调用在AI智能体之间实现安全加密的文件共享,无需人类参与。

免费
Millwright logo

Millwright 是一个开源、自托管的 LLM 路由器,根据策略将 AI 请求路由到成本最低的模型提供商,同时保留提示缓存并控制支出。

TwelveLabs logo

TwelveLabs 是一个视频智能平台,使开发者能够通过 API 使用强大的 AI 模型搜索、分析和理解视频内容。

免费
FlexInference logo

一种考虑截止时间的LLM路由器,通过自动在用户指定的时间窗口内寻找更便宜的服务层级来降低AI推理成本。

Agentcard logo

Agentcard 为 AI 代理提供友好的发卡和支付基础设施,实现五分钟设置和自主购买。

免费